Washington Üniversitesi araştırması, yapay zekanın insan davranışını gözlemleyerek kültürel değerleri öğrenip öğrenemeyeceğini inceledi. Bulgular PLOS One dergisinde yayımlandı. Araştırmaya 190 beyaz kimlikli ve 110 Latino kimlikli yetişkin katıldı; her grubun verisi ayrı bir ajanı eğitmek için kullanıldı.
Ajanlar tersine pekiştirmeli öğrenme (inverse reinforcement learning, IRL) yöntemiyle eğitildi. Bu yöntemde yapay zeka insan davranışını izleyip davranışı motive eden amaçları ve ödülleri çıkarmaya çalışır; yazarlar bunun insanların birbirinden öğrenmesine benzediğini belirtiyor.
Ana deneyde katılımcılar Overcooked adlı oyunu oynadı. Oyuncular ikinci bir oyuncuya soğan vererek yardım edebiliyordu ama bu kendi teslim sayılarını düşürüyordu. Latino grubunun daha fazla yardım ettiği, bu verilerle eğitilmiş ajanların da benzer eğilimler gösterdiği bulundu. İkinci bir testte Latino verisiyle eğitilmiş ajan daha fedakâr davrandı.
Zor kelimeler
- tersine pekiştirmeli öğrenme — insan davranışından amaç çıkarmaya çalışma yöntemi
- ajan — yapay zeka ile çalışan program veya birimAjanlar
- davranış — bireylerin yaptığı hareket ve tepkilerdavranışını
- kültürel — bir topluma özgü inanç ve davranış biçimi
- veri — araştırmada kullanılan bilgi ve kayıtlarverisi, verilerle
- eğitmek — bir kişiye veya sisteme beceri kazandırmakeğitildi, eğitilmiş
- eğilim — belli davranışlara yönelme durumueğilimler
- fedakâr — başkalarının yararı için kendini feda eden
İpucu: Türkçe metni okurken veya ses kaydını dinlerken, vurgulanan kelimelerin üzerine gel, odaklan ya da dokun; anında kısa tanımlar görünür.
Tartışma soruları
- Sizce yapay zekanın insanlardan kültürel değerleri öğrenmesi iyi mi? Neden?
- Bir oyunda yardım etmek kendi teslim sayınızı düşürüyorsa siz ne yaparsınız? Neden?
- Farklı kültürlerden gelen verilerle eğitilen yapay zekalar gerçek hayatta da farklı davranır mı? Örnek verin.
İlgili makaleler
Yapay zekada önyargı ve gerçek dünya sorunları
Yapay zeka hızla yayılıyor; Nisan ayında ChatGPT haftalık bir milyar aktif kullanıcıya ulaştı. Araştırmalar önyargılı sistemlerin zararlı etkilerini gösteriyor. Teksas Üniversitesi araştırması, üç ana faktörün önyargıyı artırdığını buldu.
Yapay zekâ daha iyi başlıklar yazmayı öğrendi
Yale School of Management'ın araştırması, yapay zekânın başlıkların neden işe yaradığını öğrenince daha etkileyici ve güvenilir içerik ürettiğini gösteriyor. Ekip A/B testi verilerinden hipotezler çıkarıp bunları doğrulayarak başlıkları iyileştirdi.