AIモデルは著者を知ると異なる判断をする ^{CEFR B1}

最近の研究では、AIモデルがテキストの著者に基づいて異なる判断をすることが示されました。これはAIがどのように情報を評価するかに大きな影響を与えます。特に、中国の著者に対する明らかなバイアスが存在します。

研究者たちは、四つの有名なAIモデルを使い、テキストを評価させました。著者の国籍が提示されたとき、評価の一致率が著しく低下しました。これは、テキストの内容が同じでも、著者の情報のために判断が変わることを意味します。

さらに、AIモデルは他のAIよりも人間の著者を信頼する傾向があります。この研究結果は、AIがコンテンツのモデレーションや雇用の評価に使用されるときに重大な問題を引き起こす可能性があることを示唆しています。

研究者は、AIの透明性を確保することが重要であり、社会的または政治的文脈での使用には注意が必要だと警告しています。AIは推論を助ける存在であり、判断を置き換えるものではないとされています。