AI 편향의 원인과 해결 방안 ^{CEFR B2}

인공 지능 도구의 확산 속도와 영향력이 커지면서 편향 사례도 문서화되고 있다. 예컨대 4월에 OpenAI의 ChatGPT는 주간 활성 사용자 10억 명에 도달했다. 동시에 보도는 편향된 AI가 인구 통계에 따라 다른 의료 처방을 만들고, 채용 도구가 여성과 흑인 지원자를 차별했다고 전했다.

새 연구는 편향의 중요한 원인 가운데 하나로 모델이 현실 세계의 복잡성을 충분히 반영하지 못하는 점을 제시한다. 이 연구는 텍사스 대학교 오스틴에서 진행되었으며, McCombs의 IROM 박사과정 학생 John-Patrick Akinyemi와 Hüseyin Tanriverdi가 참여했다. 연구진은 다른 사람들이 편향이라고 지적한 363개의 알고리즘 집합을 AI Algorithmic and Automation Incidents and Controversies 저장소에서 가져와 조사했다. 각 지적된 알고리즘을 유사한 편향 지적이 없는 알고리즘과 비교했고, 알고리즘뿐 아니라 그것을 만든 조직과 사용하는 조직도 검토했다.

연구는 세 가지 요인을 상세히 설명한다:

• 기준 진실(ground truth)이 확립되지 않으면 판단 기준이 불명확해 편향이 커진다.
• 모델이 현실을 단순화하면서 중요한 변수가 제거되면 실제 대표성이 떨어진다. 아칸소의 사례에서는 간호사의 가정 방문이 자동 결정으로 대체되자 장애인들이 식사와 샤워 도움을 받지 못하게 되었다.
• 다양한 집단을 배제한 설계는 특정 집단에 불리한 결과를 낳는다. 다양한 이해관계자 참여가 타협안을 찾는 데 도움이 된다.

결론적으로 연구는 단순한 정확도 개선만으로는 편향을 줄일 수 없다고 말한다. 개발자들은 블랙박스를 열어 현실의 복잡성, 다양한 입력, 명확한 기준 진실을 고려해야 한다고 제안했다. 연구 결과는 MIS Quarterly에 실렸고 출처는 UT Austin이다.