研究：AI会从文化中学到价值观 ^{CEFR B2}

华盛顿大学的一项研究在 PLOS One 上发表，探讨 AI 是否会从训练数据中吸收文化价值观。研究者借鉴早期儿童行为研究，招募了自认是白人和自认是拉丁裔的成年人，并分别用两组数据训练各自的 AI 代理。训练方法是逆向强化学习（IRL），该方法让 AI 观察人类行为并推断出行为背后的目标与回报，研究者认为这更接近人类通过示范学习的方式。

在主要实验中，参与者玩改编的 Overcooked 游戏：玩家在自己的厨房做洋葱汤，并且能看到另一名玩家的厨房；那名玩家需要走更远的路来完成同样任务。参与者并不知道对方实际上是会请求帮助的机器人。玩家可以把洋葱分给对方以提供帮助，但这样会减少他们自己能送出的汤数。研究发现，来自拉丁裔组的数据训练出的代理更经常赠送洋葱，第二项关于捐款的测试也显示同样的利他差异。

高级作者 Rajesh Rao 强调不应将一套普世价值硬编码进 AI 系统。作者建议通过增加文化特定数据的数量和多样性，并在部署前对系统进行微调，来让 AI 更具文化敏感性。研究者同时指出，需要进一步测试更多文化群体、相互竞争的价值观以及现实世界的应用。研究合著者来自华盛顿大学和圣地亚哥州立大学。