Robotlar canımızı elimizden alacak mı?

Robotlar ve yapay zekâ söz konusu olduğunda kamuoyunun ilgisi öncelikli olarak “Robotlar işimizi elimizden alacak mı?” sorusunun yanıtlarında olsa da robotik ve yapay zekâ teknolojilerinin bugün ulaştığı seviye daha pek çok konunun tartışılmasını gerekli kılıyor. Silahlandırılmış otonom sistemler ya da “katil robotlar” böyle konulardan biri.

Hafta başında Boston Dynamics’in başını çektiği altı robotik şirketi açık bir mektup yayımlayarak genel amaçlı robotların silahlandırılmasına karşı olduklarını duyurdular. Agility Robotics, ANYbotics, Boston Dynamics, Clearpath Robotics, Open Robotics ve Unitree tarafından imzalanan açık mektupta şirketler genel amaçlı robotların silahlandırılmasının kamuoyunun bu yeni robotlara güvenini sarsacağını da vurgulayarak kendi genel amaçlı robotlarını silahlandırmayacaklarını ve başkalarının da bu robotları silahlandırmasına yardımcı olmayacaklarını duyurdu.

Altı robotik şirketinin yayımladığı bu açık mektupta, haberleştiren pek çok basın yayın kuruluşunun gözünden kaçan ya da görmezden geldiği önemli bir vurgu var: Açık olmak gerekirse, ulusların ve devlet kurumlarının kendilerini savunmak ve yasalarını uygulamak için kullandıkları mevcut teknolojilere itiraz etmiyoruz.

Becerikli robotlarına sosyal medya videolarından aşina olduğumuz şirketlerin tutumunu en net açıklayan cümle bu. Robotik silah yarışına karşı değiller. Robotların silahlandırılmasına da karşı değiller. Sadece belirli tipte robotların sonradan silahlandırılmasına karşılar. Bu sınırlı karşı olma halinin asıl sebebinin kendi ürünlerine dair “kamuoyunda oluşacak güven kaybı” nedeni ile yaşanacak olan kâr kaybı olduğunu söyleyebiliriz.

Devletler ve şirketler silahlandırılmış otonom sistemlere büyük miktarlarda yatırım yapıyor. Bütün büyük askeri güçlerin yapay zekâ ve robotik teknolojilerinin savaş alanında kullanımına dair çalışmaları var. Sadece ABD’nin 2016 ile 2020 yılları arasında otonom silahların araştırma ve geliştirmesine ayırdığı bütçe 18 milyar dolar. ABD’de Boeing ve Lockhead Martin, Rusya’da Rostec, Çin’de AVIC, İsrail’de Israel Aerospace Industries, Türkiye’de Savunma Teknolojileri Mühendislik (STM) gibi kimi özel kimi devletle ilişkili çok sayıda şirket bir yandan mevcut silahlara yapay zekâ teknolojilerini entegre ederken diğer yandan da otonom silahları geliştirmeyi ya da üretmeyi sürdürüyor.

Samsung’un 2014’te Hanwa Group’a sattığı Samsung Techwin’in Üniversitesi ile birlikte ürettiği, otonom veya insan kontrolünde çalışabilen SGR-A1 robotlar 2010’dan beri iki Kore arasındaki sınırda nöbet tutuyor. Birleşmiş Milletler Güvenlik Konseyinin Libya’daki iç savaşa dair aralık 2021 tarihli raporuna göre STM’nin ürettiği Kargu-2 modeli otonom dronlar çatışmalarda kullanıldı. Başkaca örnekler de var ama “katil robotlar” tartışmasının gecikmiş bir tartışma olduğunu iddia etmeye bu kadarı da yeter.

Yapay zekâ ya da makine öğrenmesi tabanlı sistemler yanılmaya ve hataya açık sistemlerdir. Üstelik hata yaptıklarında genelde tekil bir örnekte değil benzer çok sayıda örnekte aynı hata tekrar eder. Bu sistemlerin yaşam ile ölüm arasında karar verme açısından yetersizliğini görmek için çoğu elinde bir oyuncak silah olan bir çocuk fotoğrafı ile gerçek bir silah olan bir yetişkinin fotoğrafını yüzde yüz başarı ile birbirinden ayırmayı beceremeyecek görsel tanıma sistemlerine bakmak kâfi. Silahlandırılmış otonom sistemler açısından bir diğer kaygı noktası da bundan 158 yıl önce Cenevre Konvansiyonundan başlayarak savaş ile katliam arasındaki sınırları çizen uluslararası hukukun insanların davranış ve kararlarına dair hesap verebilirliğine dayanmasıdır. Otonom silah sistemleri söz konusu olduğunda savaş suçları ve sorumluluk belirsizliklerle dolu bir alan olarak önümüzde duruyor.

Teknik, hukuk ya da etik; hangi açıdan bakarsanız bakın otonom silah sistemlerinin yasaklanması dışında bir sonuca varmak zor.