Google çalışanları şeffaflık ve söz hakkı istiyor

Eğer yaptığınız işin milyonları, milyarları etkileme olasılığı varsa "bu yaptığım neye, kime yarayacak; ne sonuçları olacak?" gibi soruları kendinize sormanız gerekir. Elbette -büyük bir çoğunluğun yaptığı gibi- bütün bu soruları sormadan da işinizi yapıp hayatınıza devam edebilirsiniz ancak bu sorumluluğunuzu ortadan kaldırmaz. Son günlerde çok sayıda Google çalışanı bu ve benzeri soruları yüksek sesle dile getiriyor.

Nisan ayında 4 bini aşkın Google çalışanı Google'ın ABD Savunma Bakanlığı ile birlikte çalıştığı yapay zeka projesi Maven hakkında Google CEO'su Sundar Pichai'ye seslenen bir mektup yayınlayarak "Google'ın savaş işlerinde olmaması gerektiğini" belirtmişti. Google, içeriden yükselen bu tepki üzerine Maven projesinin kontratını yenilemeyeceğini açıklamış ve yedi maddelik "yapay zeka ilkeleri"ni duyurmuştu:

1. Sosyal açıdan faydalı olmalı

2. Önyargı yaratmaktan veyahut güçlendirmekten kaçınmalı

3. Güvenli kullanım için inşa ve test edilmeli

4. İnsanlara hesap verebilmeli

5. Mahremiyetin korunması ile ilgili prensiplerimizi kapsamalı

6. Yüksek standartlarda bilimsel mükemmellik

7. Belirli prensiplerle uyum içinde kullanıma hazır olmalı*

Buna ek olarak hangi tipte yapay zeka uygulamaları gerçekleştirmeyeceklerini de açıklamışlardı:

1. Genel olarak zararlı veya zararlı olabilecek teknolojiler

2. Silahlar veya ana amacı insanları yaralamak olan teknolojiler

3. Uluslararası alanda kabul edilen normları ihlal eden gözetim/denetleme teknolojileri

4. Amacı, yaygın kabul görmüş uluslararası hukuk ve insan hakları ilkelerini çiğnemek olan teknolojiler

Gayet makul görünen bu ilkeler Google'ın Çin pazarı için kendi çalışanlarının bile büyük bir kısmından gizleyerek kendi arama motorunun sansürlü bir halini geliştirmeye çalıştığı Dragonfly projesine engel olamadı. Meselenin ortaya çıkmasıyla Google çalışanları yeniden harekete geçti. Bin 400 çalışan bir metin yayınlayarak yapay zeka prensiplerinin yeterli gelmediğini belirterek daha fazla şeffaflık ve karar hakkı isteyip dört temel taleplerini duyurdu:

1. Alt kademe çalışanların da temsilcilerini içeren bir etik kurulu

2. Seçimlerinde çalışanların görüşlerinin de dikkate alındığı ombudsmanların atanması

3. Çalışanların üzerinde çalıştıkları projeler konusunda etik olarak karar verebilmeleri için yeterli şeffaflığı sağlayacak bir plan

4. Dragonfly, Maven ve Airgap projelerinin etik değerlendirmelerinin ve olası etik tartışması yapılabilecek yeni projelerin değerlendirmelerinin yayınlanması

Google çalışanları sansürlü arama motoru inşasının önlenmesinin ötesine geçerek bundan sonrası için ne inşa ettiklerini, kimin için inşa ettiklerini, inşa ettiklerinin neye/kime yarayacağını bilmek ve buna göre karar vermek istiyor.

* Bu maddede kullanım değerlendirmesinde gözetilecek başlıklar aktarılıyor.