AIの偏りとその原因 ^{CEFR B1}

人工知能（AI）の普及とともに、偏り（バイアス）が生む問題が増えています。4月にはOpenAIのChatGPTが10億の週間アクティブユーザー数に達したと報告されましたが、同時に医療や採用で不公平な扱いが起きた事例も記録されています。

テキサス大学オースティン校の研究では、研究者が他者に偏りありと特定された一連の363のアルゴリズムを調査しました。これらは「AI Algorithmic and Automation Incidents and Controversies」というリポジトリから得られたもので、問題のある各アルゴリズムを類似のアルゴリズムと比べて分析しました。

研究は三つの主要な原因を挙げます。基準の不確かさ（ground truth）がある場合、現実世界の複雑さをモデルがとらえ損ねる場合、そして利害関係者が十分に関与していない場合です。例として、確立された方法のないX線画像から骨の年齢を推定することや、アーカンソーで看護師の訪問が自動判定に置き換わり支援が減ったケースが示されました。

研究は、単に精度を上げるだけでなく、開発者がモデルの内部やデータの欠けを見直す必要があると結論付けています。研究はMIS Quarterlyに掲載され、出典はUT Austinです。