Yapay zekada önyargı ve gerçek dünya sorunları ^{CEFR B2}

Yapay zeka araçları hızla yayılıyor. Nisan ayında OpenAI'nin ChatGPT'si haftalık bir milyar aktif kullanıcıya ulaşırken, araştırmacılar ve gazeteciler önyargılı yapay zekanın zararlarını belgeledi. Raporlar, önyargılı sistemlerin demografik farklılıklara göre hastalara farklı tıbbi tedaviler uygulanmasına ve işe alım araçlarının kadın ve Siyah adaylara karşı ayrımcılık yapmasına neden olduğunu gösteriyor.

Teksas Üniversitesi Austin'den Hüseyin Tanriverdi ile McCombs'ta IROM doktora adayı John-Patrick Akinyemi, AI Algorithmic and Automation Incidents and Controversies adlı depodan alınan önyargılı olarak tanımlanmış 363 algoritmayı inceledi. Araştırmacılar her bir sorunlu algoritmayı benzer fakat eleştirilmemiş bir algoritma ile karşılaştırdı ve hem algoritmaları hem de bunları geliştiren ve kullanan kuruluşları analiz etti.

Çalışma, önyargıyı artıran üç ilgili faktör belirliyor: yerleşik gerçeklik eksikliği, modelin gerçek dünyanın karmaşıklığını basitleştirmesi ve paydaş katılımının yetersizliği. Örneğin, bir algoritmadan röntgenden kemiğin yaşını tahmin etmesi beklenebilir oysa doktorların bunun yerleşik bir yöntemi yok; başka örnekte ise Arkansas'ta hemşirelerin ev ziyaretleri otomatik kararlara dönüştürülünce engelli kişilerin temel yardımlardan mahrum kalması görüldü.

Araştırma, önyargıyı azaltmanın yalnızca doğruluğu artırmaktan daha fazlasını gerektirdiğini vurguluyor: geliştiricilerin kara kutuları açması, gerçek dünya karmaşıklığını ve çeşitli girdileri hesaba katması ve net yerleşik gerçeklikleri tanımlaması gerekiyor. Tanriverdi, "Yerleşik bir gerçeklik yoksa önyargının ortaya çıkma olasılığı önemli ölçüde artar" diyor. Çalışma MIS Quarterly'de yayımlandı. Kaynak: UT Austin.