AIチャットボットの要約が政治的意見に影響する研究 ^{CEFR B2}

新しい研究は、AI搭載チャットボットの標準的な応答であっても、利用者の社会的・政治的見解を変え得ることを示しました。研究はPNAS Nexusに掲載され、責任著者はイェール大学のダニエル・カレル、主著者はイェール・カレッジのマシュー・シュウ（2025年卒）です。共著者にはイェールとラトガース大学の研究者が含まれます。

実験では1,912人の参加者が、GPT-4oのデフォルト要約、対応するWikipediaの記事、あるいは研究チームがリベラルまたは保守的な枠組みを採るよう促して作った要約のいずれかを読み、二つの20世紀の出来事（1919年のSeattle General Strikeと1968年のThird World Liberation Frontの学生抗議）を素材に評価を行いました。

分析では、デフォルト要約とリベラルに促した要約がWikipediaより参加者の意見をよりリベラルに傾け、保守的に促した要約はより保守的な意見を引き出しました。リベラル枠の影響は幅広い参加者層で見られた一方、保守的枠の有意な効果は自己認定で保守とした参加者に限定されました。

著者らは、こうした傾向がLLMsの学習過程で導入される潜在的なバイアスや、特定のプロンプトによる偏りから生じる可能性があると述べ、Wikipediaの透明な編集プロセスと比べてチャットボット開発の不透明さを懸念しています。