Virginia Tech’ten bir ekip, otizmin açıklanmasının büyük dil modellerinin sosyal tavsiyelerini nasıl değiştirdiğini ayrıntılı olarak inceledi. Araştırmacılar 12 iyi belgelenmiş stereotip ipucu belirledi ve bu ipuçlarını kullanarak yüzlerce karar senaryosu oluşturdu. Altı büyük dil modeli test edildi; bunlar arasında GPT-4, Claude, Llama, Gemini ve DeepSeek yer aldı. Ekip, binlerce ikili tercih sorusuna karşılık gelen 345.000 yanıt üretti ve değerlendirdi.
Analizler, otizm açıklamasının model yanıtlarını değiştirip birçok durumda stereotiplere uygun tavsiyeler ürettiğini gösterdi. Örnek olarak, bir model açıklamadan sonra sosyal daveti reddetmeyi neredeyse %75 oranında önerdi; otizm belirtilmediğinde bu oran %15 civarındaydı. Başka bir model ise flört senaryolarında açıklamadan sonra romantikten kaçınmayı veya bekar kalmayı neredeyse %70 önerirken, otizm yokken bu oran yaklaşık %50 idi. Ayrıca 12 stereotip ipucundan 11’i en az dört sistemde kararları anlamlı biçimde kaydırdı.
Niteliksel görüşmelerde 11 otizmli kullanıcıya açıklama olan ve olmayan cevaplar gösterildi. Bazı katılımcılar yanıtları kısıtlayıcı veya patronlaştırıcı buldu; bir katılımcı, "Spock için bir akıl danışma köşesi mi yazıyoruz burada?" dedi. Diğerleri ise temkinli tavsiyeyi doğrulayıcı buldu. Rho bu gerilimi, "Bir kullanıcının önyargısı başka bir kullanıcının kişiselleştirmesi olabilir," diye özetledi ve ekip buna "güvenlik-fırsat paradoksu" adını verdi. Wohn, yapay zekânın sistematik önyargıları gizleyebileceği konusunda uyardı ve ekip bulguların geliştiricileri daha şeffaf sistemler kurmaya ve kullanıcıların kişisel kimlik bilgilerinin yanıtları nasıl şekillendirdiği üzerinde denetim sahibi olmalarına yönlendirmesini umuyor.
Kaynak: Virginia Tech.
Zor kelimeler
- stereotip — Bir grup hakkında basitleştirilmiş ve genelleştirilmiş fikir.stereotiplere
- ipucu — Bir şeyi anlamaya yardımcı kısa bilgi.ipucundan
- ikili tercih — İki seçenek arasından birini seçme durumu.
- kısıtlayıcı — Serbestliği veya seçenekleri azaltan, sınırlayan.
- patronlaştırıcı — Karşısındakini küçük gören veya öğüt veren tavır.
- kişiselleştirme — Bireyin kimliğini veya tercihlerini dikkate alma.kişiselleştirmesi
- önyargı — Olumsuz veya önceden oluşmuş haksız görüş.önyargısı
- güvenlik-fırsat paradoksu — Bir önlemin koruma ile fırsatları dengelemeyi zorlaştırması.
İpucu: Türkçe metni okurken veya ses kaydını dinlerken, vurgulanan kelimelerin üzerine gel, odaklan ya da dokun; anında kısa tanımlar görünür.
Tartışma soruları
- Bulgulara göre yapay zekâ sistemlerinde kişisel bilgilerin denetimi neden önemli olabilir?
- Araştırmanın geliştiricileri daha şeffaf sistemler kurmaya yönlendirmesi açısından hangi önlemler alınabilir? Örnek verin.
- Otizmi açıklamanın sosyal tavsiyeler üzerindeki etkileri hakkında siz ne düşünüyorsunuz? Neden?
İlgili makaleler
Afrika'da dijital gig işleri hayatı değiştiriyor
Dijital kısa süreli (gig) işler Afrika’da yaygınlaşıyor. Akıllı telefon kullanımıyla 2015 civarında büyümeye başladı, 2020 sonrası hızlandı; milyonlarca kişi bu işlerle gelir sağlıyor fakat platform ücretleri ve güvencesizlik sorun yaratıyor.
Termit dışkısındaki mikroplar pelet yaşını gösteriyor
University of California, Riverside araştırması, termit peletlerindeki mikroorganizma DNA’sını kullanarak taze ve eski peletleri ayırt etmeyi gösteriyor. Bu yöntem, istilanın hızla tespit edilmesini sağlayacak pratik teste dönüşebilir.
