Algoritmalar ve kararları

Bilim kurgu yazını ve sinemasının çokça ele aldığı konulardan biri zor kararların algoritmalara veya yapay zekalara bırakılmasının sonuçları. “Hata yapmaya ve ön yargılara açık” insanların yerine “hatasızlığına ve ön yargısızlığına” derin bir inanç beslenen algoritmaların karar mekanizmalarına konulmasının yaratabileceği problemler, eşitsizlikler ve hatta facialar bu konuyu ele alan eserlerde on yıllardır tartışılıyor. Belki konuyu işleyen eserler için “kurgu” deyip geçebilirdik ama son yıllarda algoritmalar karar verme süreçlerine giderek daha da fazla dahil olmaya başladı ve bu algoritmaların sonuçları zaman zaman bu eserlerdeki “kurgu”ları anımsatabiliyor.

1 hafta kadar önce Stanford Üniversitesi Tıp Fakültesi, kendilerine ulaşacak ilk 5 bin doz aşının dağıtımının planlamasını bir algoritma ile gerçekleştirmeye çalıştı. Niyetleri bu ilk parti aşıların en adil şekilde dağıtılmasını sağlamaktı belki ama sonuç pek öyle olmadı. Algoritma bu 5 bin doz aşıdan sadece 7 dozu kovid ile çarpışmanın ön cephesinde yer alan sağlık çalışanlarına ayırmıştı. Dozların ezici bir çoğunluğu hastalarla yüz yüze çalışmayan fakülte üyelerine ayrılmıştı. Sağlık çalışanlarının eylem ve protestolarının ardından fakülte özür dileyerek doğrudan hastalarla temas eden sağlık çalışanlarını önceleyen yeni bir plan çıkarttı.

Stanford’da yaşanan bu yılın tek algoritma sıkıntısı değildi. Eylül ayında İngiltere’de sınavlardan sorumlu birim Ofqual A-seviyesi sınav sonuçlarını sınavsız olarak bir algoritma ile belirlemeye karar vermiş, algoritmanın belirlediği sonuçlar analiz edildiğinde algoritmanın özel okullarda okuyan öğrencilerin notlarını yükseltmeye ve devlet okullarında okuyan öğrencilerin notlarını düşürmeye meyilli olduğu ortaya çıkmıştı. Öğrencilerin eylemleri sonucunda Ofqual ve hükümet algoritma ile A-sınavı notu belirleme kararından geri adım attı. Aralık ayı başında yaşanan bir diğer algoritma ilintili vakada ise Microsoft, Microsoft 365 kullananların “üretkenlik puanlarını” hesaplayan ve yöneticilerinin detaylıca kullanıcı bazlı “analiz” yapabilmesine olanak tanıyan sistemleri nedeni ile özür dilemek ve kullanıcı bazlı bilgileri kaldırmak zorunda kaldı.

Sigorta için risk durumunuzdan banka kredisi ya da kredi kartı limitinize, Facebook ya da Twitter’da hangi gönderilerin önünüze düşeceğinden başvurduğunuz işe alınıp alınmayacağınıza pek çok alanda kullanılıyor algoritmalar. Algoritmaların Azınlık Raporu filmini hatırlatırcasına “Suçu oluşmadan önleme” temalı polisiye kullanımları ise çoğunlukla gizli kapaklı olarak yapılsa da zaman zaman belgeleri ile ortaya çıkabiliyor. Algoritmalar gökten kutsal bir ışık halesi içinde inen şeyler değil. Hata yapmaya ve ön yargılara açık insanlar tarafından geliştiriliyor. Makine öğrenmesi örneklerinde ise hata ve ön yargılar içeren veri setleri ile eğitiliyor. Bir algoritmanın geliştiricisinin ya da eğitildiği veri setinin ön yargılarına sahip olma olasılığı düşük bir olasılık değil. Algoritmaların fazlasıyla işe yaradığı çokça senaryo var ancak karar verme mekanizmalarında insanın yerine algoritmayı koymak ne hataları ve ön yargıları ortadan kaldırmayı başarabiliyor ne de kararları almaktan sorumlu gerçek kişi ve kurumların sorumluluğunu ortadan kaldırabiliyor.