AIの偏りとその原因 ^{CEFR A2}

人工知能（AI）は広く使われています。4月、OpenAIのChatGPTは10億の週間アクティブユーザー数に達しました。一方で、偏ったAIが人に悪い影響を与える例が報告されています。たとえば、医療での扱いが人種や性別で違う場合や、採用で女性や黒人が不利になる例です。

テキサス大学オースティン校の研究チームは、問題のあるアルゴリズムと似た別のアルゴリズムを比べて調べました。研究は、はっきりした基準がない場面や現実世界の複雑さ、設計にかかわる人々の偏りが原因になると示しました。

結論は、単に精度を上げるだけでは不十分だということです。開発者は現実の違いや入力の多様性、明確な基準を考える必要があります。