AIは文化的価値を学べるか ^{CEFR B1}

ワシントン大学の研究は、AIが人間の行動を観察して文化的な価値を学べるかを検証しました。研究では、自己を白人と識別した参加者と自己をラテン系と識別した参加者のデータを別々に使って、AIエージェントを訓練しました。参加者の数は、白人グループが190人、ラテン系グループが110人でした。

エージェントは逆強化学習（逆報酬を推定する学習法、IRL）で訓練され、人の行動からその行動を動かす目標や報酬を推定しました。主要な実験では改変版のゲーム「Overcooked」で、プレイヤーが玉ねぎスープを届けながら他者を助けるかを確かめました。

結果として、ラテン系のデータで訓練されたエージェントは、ゲーム中により多くの玉ねぎを渡すなど利他的に振る舞いました。寄付を判断する別の試験でも同様の傾向が見られ、著者らはより多様な文化データの必要性を指摘しました。