AIの偏りとその原因 ^{CEFR B2}

人工知能の急速な普及に伴い、偏り（バイアス）が社会で重大な問題になっている。4月、OpenAIのChatGPTは10億の週間アクティブユーザー数に達したが、同時に研究者やジャーナリストは、偏ったAIが患者の扱いや採用選考で不利を生む事例を記録してきた。

テキサス大学オースティン校の新しい研究では、John-Patrick AkinyemiとHüseyin Tanriverdiが、他者によって偏りありと特定された363のアルゴリズムを調査した。対象は「AI Algorithmic and Automation Incidents and Controversies」というリポジトリからの事例で、研究チームは問題のあるアルゴリズムを偏りを指摘されていない類似アルゴリズムと比較した。

研究はバイアスの重要な原因を三つにまとめる。第一は基準の不確かさで、確立された基準がない場面では判断が分かれやすく偏りが生じる。第二は現実世界の複雑さで、モデルが重要な変数を欠くと誤った判定になる。記事は、アーカンソーで看護師の訪問がメディケイドの自動判定に置き換わり、障害者が必要な支援を受けられなくなった例を挙げる。第三は利害関係者の関与不足で、主に一つの集団だけで設計すると別の集団に不利になる。

研究は、偏りを減らすには単に精度を上げるだけでは不十分だと結論付ける。Tanriverdiは「アルゴリズムが対処しなければならない複雑な問題群があり、それらを十分に扱うことは現実的でない」と述べ、また「我々が注目する要因は公平性の結果に直接影響する。これらはデータサイエンティストが見落としている欠けた部分だ」と指摘した。研究はMIS Quarterlyに掲載され、出典はUT Austinである。