Virginia Tech’ten bir ekip, otizmin açıklanmasının büyük dil modellerinin sosyal tavsiyelerini nasıl değiştirdiğini ayrıntılı olarak inceledi. Araştırmacılar 12 iyi belgelenmiş stereotip ipucu belirledi ve bu ipuçlarını kullanarak yüzlerce karar senaryosu oluşturdu. Altı büyük dil modeli test edildi; bunlar arasında GPT-4, Claude, Llama, Gemini ve DeepSeek yer aldı. Ekip, binlerce ikili tercih sorusuna karşılık gelen 345.000 yanıt üretti ve değerlendirdi.
Analizler, otizm açıklamasının model yanıtlarını değiştirip birçok durumda stereotiplere uygun tavsiyeler ürettiğini gösterdi. Örnek olarak, bir model açıklamadan sonra sosyal daveti reddetmeyi neredeyse %75 oranında önerdi; otizm belirtilmediğinde bu oran %15 civarındaydı. Başka bir model ise flört senaryolarında açıklamadan sonra romantikten kaçınmayı veya bekar kalmayı neredeyse %70 önerirken, otizm yokken bu oran yaklaşık %50 idi. Ayrıca 12 stereotip ipucundan 11’i en az dört sistemde kararları anlamlı biçimde kaydırdı.
Niteliksel görüşmelerde 11 otizmli kullanıcıya açıklama olan ve olmayan cevaplar gösterildi. Bazı katılımcılar yanıtları kısıtlayıcı veya patronlaştırıcı buldu; bir katılımcı, "Spock için bir akıl danışma köşesi mi yazıyoruz burada?" dedi. Diğerleri ise temkinli tavsiyeyi doğrulayıcı buldu. Rho bu gerilimi, "Bir kullanıcının önyargısı başka bir kullanıcının kişiselleştirmesi olabilir," diye özetledi ve ekip buna "güvenlik-fırsat paradoksu" adını verdi. Wohn, yapay zekânın sistematik önyargıları gizleyebileceği konusunda uyardı ve ekip bulguların geliştiricileri daha şeffaf sistemler kurmaya ve kullanıcıların kişisel kimlik bilgilerinin yanıtları nasıl şekillendirdiği üzerinde denetim sahibi olmalarına yönlendirmesini umuyor.
Kaynak: Virginia Tech.
Zor kelimeler
- stereotip — Bir grup hakkında basitleştirilmiş ve genelleştirilmiş fikir.stereotiplere
- ipucu — Bir şeyi anlamaya yardımcı kısa bilgi.ipucundan
- ikili tercih — İki seçenek arasından birini seçme durumu.
- kısıtlayıcı — Serbestliği veya seçenekleri azaltan, sınırlayan.
- patronlaştırıcı — Karşısındakini küçük gören veya öğüt veren tavır.
- kişiselleştirme — Bireyin kimliğini veya tercihlerini dikkate alma.kişiselleştirmesi
- önyargı — Olumsuz veya önceden oluşmuş haksız görüş.önyargısı
- güvenlik-fırsat paradoksu — Bir önlemin koruma ile fırsatları dengelemeyi zorlaştırması.
İpucu: Türkçe metni okurken veya ses kaydını dinlerken, vurgulanan kelimelerin üzerine gel, odaklan ya da dokun; anında kısa tanımlar görünür.
Tartışma soruları
- Bulgulara göre yapay zekâ sistemlerinde kişisel bilgilerin denetimi neden önemli olabilir?
- Araştırmanın geliştiricileri daha şeffaf sistemler kurmaya yönlendirmesi açısından hangi önlemler alınabilir? Örnek verin.
- Otizmi açıklamanın sosyal tavsiyeler üzerindeki etkileri hakkında siz ne düşünüyorsunuz? Neden?
İlgili makaleler
Teknoloji ve tarım: küçük çiftçilerin erişim sorunu
25 Şubat'ta yayımlanan IPES-Food raporu, büyük tarım ve teknoloji şirketlerinin yakın ilişkilerinin küçük çiftçilerin modern tarım araçlarına erişimini zorlaştırdığını uyarıyor. Rapor bulut ve yapay zekâ kullanımını ve veri kontrolü endişelerini ele alıyor.
Bangladeş'te Seçimler ve Çevrim İçi Kampanyalar
Bangladeş 12 Şubat 2026'da yapılacak parlamenter seçimlere hazırlanıyor. Kampanyalar sosyal medyaya kayıyor, yetkililer çevrim içi içerik için kurallar getirdi; doğruluk kontrolü yapan gruplar dezenformasyon ve yapay zekâ içeriklerinin arttığını raporluyor.