Washington Üniversitesi araştırması, yapay zekanın insan davranışını izleyerek kültürel değerleri öğrenip öğrenemeyeceğini deneysel olarak test etti. Bulgular PLOS One dergisinde yayımlandı. Araştırmada beyaz kimlikli 190 ve Latino kimlikli 110 yetişkinten veri toplandı; her grubun verisi ayrı bir yapay zeka ajanını eğitmek için kullanıldı.
Araştırmacılar ajanları tersine pekiştirmeli öğrenme (inverse reinforcement learning, IRL) ile eğitti. Standart pekiştirmeli öğrenmede hedef ve ödüller açıkça verilirken IRL'de ajan insan davranışını izler ve bu davranışı motive eden amaçları çıkarır. Yazarlar bunun insanların birbirinden öğrenme biçimine daha yakın olduğunu söylüyor; Andrew Meltzoff bu yaklaşımı çocuk yetiştirme örneğiyle açıklıyor.
Ana deneyde katılımcılar Overcooked adlı video oyunundan uyarlanmış bir versiyon oynadı. Oyuncular birine soğan vererek yardım ederken kendi teslim ettikleri çorba sayısı azalıyordu ve katılımcılar ikinci oyuncunun bir bot olduğunu bilmiyordu. Araştırmacılar Latino grubunun genel olarak daha fazla yardım ettiğini ve Latino verisiyle eğitilmiş ajanların oyunda daha fazla soğan verdiğini buldu. İkinci bir testte aynı ajanlardan paralarının bir kısmını ihtiyaç sahiplerine bağışlamaları istendi; yine Latino verisiyle eğitilmiş ajan daha fedakâr davrandı.
Kıdemli yazar Rajesh Rao, yapay sistemlere tek bir evrensel değer seti sabitlememek gerektiğini söylüyor ve geliştiricilerin kültüre özgü veri miktarını ve çeşitliliğini artırarak bu yaklaşımları ölçekleyebileceğini ekliyor. Araştırma ekibi daha fazla kültürel grup, çatışan değerler ve gerçek dünya sorunlarını test etmek için ek araştırma gerektiğini vurguluyor.
- Yöntem: tersine pekiştirmeli öğrenme (IRL).
- Deney aracı: Overcooked oyunu uyarlaması.
- Sonuç: kültüre özgü eğilimler yapay zekaya yansıdı.
Zor kelimeler
- tersine pekiştirmeli öğrenme — insan davranışından ödül amaçlarını çıkarmaya yöntem
- ajan — yapay zeka içinde görev yapan yazılım varlıkajanını, ajanları, ajanların
- veri — çalışmada toplanan bilgi ve gözlemlerverisi, verisiyle
- kültüre özgü — belirli bir kültüre ait olan özellik
- eğilim — insanların veya grupların tekrarlayan davranış eğilimieğilimler
- fedakâr — başkalarının yararı için kendi çıkarını azaltan
- ölçeklemek — bir uygulamayı daha büyük ölçekte uygulamakölçekleyebileceğini
- çatışan değerler — birbiriyle çelişen amaç veya inançlar
İpucu: Türkçe metni okurken veya ses kaydını dinlerken, vurgulanan kelimelerin üzerine gel, odaklan ya da dokun; anında kısa tanımlar görünür.
Tartışma soruları
- Bu araştırmanın bulguları yapay zekâ sistemlerinin farklı kültürlerde nasıl algılanması gerektiğini nasıl etkiler?
- Geliştiriciler kültüre özgü veri miktarını ve çeşitliliğini artırırken hangi etik ve pratik zorluklarla karşılaşabilir?
- Gerçek dünya sorunlarını test etmek için daha fazla kültürel grup eklemek neden önemlidir ve bunu nasıl yapardınız?
İlgili makaleler
Latin Amerika’da gençler için yapay zekâ ile sağlık bilgisi
Latin Amerika’da sağlık grupları ve araştırmacılar, gençler ve dışlanmış topluluklara cinsel ve üreme sağlığı bilgisini yapay zekâ araçlarıyla ulaştırmaya çalışıyor. Projeler dil, damgalama ve hizmet erişimi engellerini azaltmayı hedefliyor.
