Echo’nun yanlış anlama zinciri

Geçtiğimiz hafta Amazon’un akıllı asistanı Alexa’ya bağlı çalışan akıllı hoparlörü Echo’nun özel bir sohbeti rehberinden rastgele birine yolladığının ortaya çıkmasıyla akıllı cihazlar neyi ne kadar dinliyor tartışmaları da alevlendi. Amazon’un açıklamasına göre Echo konuşmadaki kelimelerden birini Alexa olarak algılayıp devreye girdikten sonra yine konuşmada geçen bir başka kelimeyi mesaj gönder olarak algılıyor ve “Kime?​” diye soruyor. Ardından yine konuşmada geçen bir kısmı yine yanlış bir şekilde rehberden biri ile eşleştirip “X kişisine yolluyorum doğru mu?​” sorusunu yöneltiyor ve diyalogdan bir kısmı yine yanlış anlayarak “doğru” yanıtını aldığını düşünerek mesajı yolluyor. Üst üste bunca yanlış ses eşleştirmesine tesadüf de diyebilirsiniz elbet ama yine de kaygılanmak için yeterince sebep var.

Bilgisayara sesli komut verme işi ile ilk kez tanışmam doksanların ortalarında bir bilgisayar dergisi CD’sinden çıkan Kurzweil Voicepad ile olmuştu. Epey heyecanlı bir şekilde yazılımı yükledikten sonra elimde mikrofon bir süre debelenmiştim. Bir türlü bilgisayara mikrofondan verdiğim komutları istediğim gibi algılatamayınca ses eşleştirme teknolojisinin henüz pratik işlevsellikten uzak olduğuna karar verip bir daha da benzer teknolojilerle çok fazla uğraşmadım. Aradan geçen 20 yılı aşkın sürede daha gelişkin yazılım ve donanımlar ile alınan sonuçlar bana Kurzweil hayal kırıklığımı hatırlatsa da çalışma şekilleri nedeniyle akıllı asistanların oluşturdukları risk çok daha büyük.

Amazon Echo,  Apple Siri ve Google Assistant gibi akıllı asistanlar devreye girmek için önceden ayarlanan bir kelimeyi bekler. Bu kelimeyi kaçırmamak için sürekli bir dinleme halindedir. Kelimeyi duyup devreye girdikten sonra kullanıcı tarafından söylenen işlenerek yorumlanmak üzere buluta yollanır. Buluttan gelen yanıta göre akıllı asistan uygun işlemi yapar. Bu son olay gösterdi ki bulut sunucularına sızılması, hesapların ve cihazların hacklenmesi ya da cihazın bulutla arasındaki trafiğe sızılması gibi verilerinizin üçüncü şahısların eline geçmesine yol açabilecek sebeplere bir de akıllı asistanın kelimeleri yanlış anlayarak devreye girme potansiyelini de eklemek gerek. Siz siz olun, sürekli sizi dinleyen bu cihazların mutlaka hatasız çalışacağına inanıp da yanlarında olur olmaz her şeyi konuşmayın.