Otizmi söylemek yapay zekâ tavsiyelerini değiştiriyor ^{CEFR B2}

Virginia Tech’ten bir ekip, otizmin açıklanmasının büyük dil modellerinin sosyal tavsiyelerini nasıl değiştirdiğini ayrıntılı olarak inceledi. Araştırmacılar 12 iyi belgelenmiş stereotip ipucu belirledi ve bu ipuçlarını kullanarak yüzlerce karar senaryosu oluşturdu. Altı büyük dil modeli test edildi; bunlar arasında GPT-4, Claude, Llama, Gemini ve DeepSeek yer aldı. Ekip, binlerce ikili tercih sorusuna karşılık gelen 345.000 yanıt üretti ve değerlendirdi.

Analizler, otizm açıklamasının model yanıtlarını değiştirip birçok durumda stereotiplere uygun tavsiyeler ürettiğini gösterdi. Örnek olarak, bir model açıklamadan sonra sosyal daveti reddetmeyi neredeyse %75 oranında önerdi; otizm belirtilmediğinde bu oran %15 civarındaydı. Başka bir model ise flört senaryolarında açıklamadan sonra romantikten kaçınmayı veya bekar kalmayı neredeyse %70 önerirken, otizm yokken bu oran yaklaşık %50 idi. Ayrıca 12 stereotip ipucundan 11’i en az dört sistemde kararları anlamlı biçimde kaydırdı.

Niteliksel görüşmelerde 11 otizmli kullanıcıya açıklama olan ve olmayan cevaplar gösterildi. Bazı katılımcılar yanıtları kısıtlayıcı veya patronlaştırıcı buldu; bir katılımcı, "Spock için bir akıl danışma köşesi mi yazıyoruz burada?" dedi. Diğerleri ise temkinli tavsiyeyi doğrulayıcı buldu. Rho bu gerilimi, "Bir kullanıcının önyargısı başka bir kullanıcının kişiselleştirmesi olabilir," diye özetledi ve ekip buna "güvenlik-fırsat paradoksu" adını verdi. Wohn, yapay zekânın sistematik önyargıları gizleyebileceği konusunda uyardı ve ekip bulguların geliştiricileri daha şeffaf sistemler kurmaya ve kullanıcıların kişisel kimlik bilgilerinin yanıtları nasıl şekillendirdiği üzerinde denetim sahibi olmalarına yönlendirmesini umuyor.

Kaynak: Virginia Tech.