Virginia Tech’ten bir ekip, otizmin açıklanmasının büyük dil modellerinin sosyal tavsiyelerini nasıl değiştirdiğini ayrıntılı olarak inceledi. Araştırmacılar 12 iyi belgelenmiş stereotip ipucu belirledi ve bu ipuçlarını kullanarak yüzlerce karar senaryosu oluşturdu. Altı büyük dil modeli test edildi; bunlar arasında GPT-4, Claude, Llama, Gemini ve DeepSeek yer aldı. Ekip, binlerce ikili tercih sorusuna karşılık gelen 345.000 yanıt üretti ve değerlendirdi.
Analizler, otizm açıklamasının model yanıtlarını değiştirip birçok durumda stereotiplere uygun tavsiyeler ürettiğini gösterdi. Örnek olarak, bir model açıklamadan sonra sosyal daveti reddetmeyi neredeyse %75 oranında önerdi; otizm belirtilmediğinde bu oran %15 civarındaydı. Başka bir model ise flört senaryolarında açıklamadan sonra romantikten kaçınmayı veya bekar kalmayı neredeyse %70 önerirken, otizm yokken bu oran yaklaşık %50 idi. Ayrıca 12 stereotip ipucundan 11’i en az dört sistemde kararları anlamlı biçimde kaydırdı.
Niteliksel görüşmelerde 11 otizmli kullanıcıya açıklama olan ve olmayan cevaplar gösterildi. Bazı katılımcılar yanıtları kısıtlayıcı veya patronlaştırıcı buldu; bir katılımcı, "Spock için bir akıl danışma köşesi mi yazıyoruz burada?" dedi. Diğerleri ise temkinli tavsiyeyi doğrulayıcı buldu. Rho bu gerilimi, "Bir kullanıcının önyargısı başka bir kullanıcının kişiselleştirmesi olabilir," diye özetledi ve ekip buna "güvenlik-fırsat paradoksu" adını verdi. Wohn, yapay zekânın sistematik önyargıları gizleyebileceği konusunda uyardı ve ekip bulguların geliştiricileri daha şeffaf sistemler kurmaya ve kullanıcıların kişisel kimlik bilgilerinin yanıtları nasıl şekillendirdiği üzerinde denetim sahibi olmalarına yönlendirmesini umuyor.
Kaynak: Virginia Tech.
Zor kelimeler
- stereotip — Bir grup hakkında basitleştirilmiş ve genelleştirilmiş fikir.stereotiplere
- ipucu — Bir şeyi anlamaya yardımcı kısa bilgi.ipucundan
- ikili tercih — İki seçenek arasından birini seçme durumu.
- kısıtlayıcı — Serbestliği veya seçenekleri azaltan, sınırlayan.
- patronlaştırıcı — Karşısındakini küçük gören veya öğüt veren tavır.
- kişiselleştirme — Bireyin kimliğini veya tercihlerini dikkate alma.kişiselleştirmesi
- önyargı — Olumsuz veya önceden oluşmuş haksız görüş.önyargısı
- güvenlik-fırsat paradoksu — Bir önlemin koruma ile fırsatları dengelemeyi zorlaştırması.
İpucu: Türkçe metni okurken veya ses kaydını dinlerken, vurgulanan kelimelerin üzerine gel, odaklan ya da dokun; anında kısa tanımlar görünür.
Tartışma soruları
- Bulgulara göre yapay zekâ sistemlerinde kişisel bilgilerin denetimi neden önemli olabilir?
- Araştırmanın geliştiricileri daha şeffaf sistemler kurmaya yönlendirmesi açısından hangi önlemler alınabilir? Örnek verin.
- Otizmi açıklamanın sosyal tavsiyeler üzerindeki etkileri hakkında siz ne düşünüyorsunuz? Neden?
İlgili makaleler
Mamogramlar Yapay Zekâyla Kalp Hastalığı Riskini Gösteriyor
Yeni bir retrospektif çalışma, yapay zekâ ile mamogramların analiz edilmesinin kalp hastalığı riski yüksek kadınları tespit etmeye yardımcı olabileceğini gösteriyor. Araştırma mamogramların kalp sağlığıyla ilgili bilgi taşıdığını öne sürüyor.
Yapay zekâ melanomu tespit etmek için test ediliyor
University of Missouri araştırmacıları, 400.000 görüntüyle yapay zekânın melanomu tanıyıp şüpheli vakaları hızla belirlemesini test etti. Sistem uzmanların yerine geçmek için değil, doktorlara karar desteği sağlamak için tasarlandı.
BM raporu: Yardımcı teknolojiye erişim yetersiz
WHO ve UNICEF tarafından yayımlanan BM raporu, yaklaşık bir milyar engelli çocuğun, yetişkinin ve yaşlının ihtiyaç duyduğu yardımcı teknolojiye erişemediğini söylüyor. Rapor ihtiyaçları, erişim engellerini ve önerileri kişisel örneklerle gösteriyor.
