인공 지능 도구의 사용이 빠르게 늘면서 편향으로 인한 피해 사례가 늘었다. 보도에 따르면 편향된 시스템은 인구 통계에 따라 다른 의료 처방을 내렸고, 일부 채용 도구는 여성과 흑인 지원자를 차별했다.
텍사스 대학교 오스틴(University of Texas at Austin)의 연구진은 이 문제를 분석했다. 연구에는 McCombs의 IROM 박사과정 학생 John-Patrick Akinyemi와 Hüseyin Tanriverdi가 참여했다. 연구팀은 다른 사람들이 편향이 있다고 지적한 알고리즘 집합을 조사하고, 지적된 알고리즘을 유사한 다른 알고리즘과 비교했다. 또한 알고리즘을 만든 조직과 사용하는 조직도 함께 검토했다.
연구는 주요 원인으로 세 가지를 지적한다. 첫째, 확립된 기준 진실(ground truth)이 없을 때 편향 위험이 커진다. 둘째, 모델이 현실을 단순화해 중요한 변수를 놓칠 수 있다. 셋째, 설계에 다양한 이해관계자가 참여하지 않으면 편향이 생기기 쉽다. 연구는 단순히 정확도를 높이는 것만으로는 부족하다고 결론지었다.
어려운 단어·표현
- 편향 — 어떤 방향으로 과도하게 치우친 성향편향으로, 편향된, 편향이
- 알고리즘 — 문제를 해결하는 단계별 계산 절차알고리즘을, 알고리즘과
- 조직 — 사람들이 함께 일하는 단체나 기관조직과, 조직도
- 확립되다 — 굳게 세워지거나 정해지는 상태가 되다확립된
- 변수 — 변할 수 있는 요소나 측정 항목변수를
- 이해관계자 — 정책이나 결과에 관심이 있는 사람들이해관계자가
- 정확도 — 결과나 예측이 실제와 일치하는 정도정확도를
팁: 글에서 강조된 단어에 마우스를 올리거나 포커스/탭하면, 읽거나 들으면서 바로 간단한 뜻을 볼 수 있습니다.
토론 질문
- 회사나 기관에서 편향된 인공지능을 줄이려면 어떤 사람들을 참여시켜야 할까요? 이유도 말해 보세요.
- 모델이 현실을 단순화하면 어떤 문제가 생길 수 있다고 생각하나요? 구체적인 예를 하나 말해 보세요.
- 의료 분야에서 편향된 처방을 발견하면 기관은 어떤 조치를 해야 할까요? 당신의 의견을 말해 보세요.
관련 기사
AI 코치가 의대생 봉합 연습을 돕다
Johns Hopkins University 연구진이 봉합 연습을 코칭하는 설명 가능한 인공지능 도구를 개발했다. AI는 연습 뒤 즉각적이고 개인화된 문자 피드백을 보내고, 소규모 무작위 시험에서 경험 있는 학생들이 더 빨리 배웠다.
결핵 진단과 모니터를 돕는 새 AI 도구들
연구자들이 결핵을 더 잘 찾아내고 추적할 수 있는 여러 인공지능 도구를 발표했다. 발표는 코펜하겐에서 열린 학회에서 11월 18일~21일에 이루어졌고, 일부 결과는 아직 검증 중이다.
COVID-19로 인한 과학 저널리즘의 압박
COVID-19로 인해 과학 저널리즘의 상황이 변화하고 있습니다. 새로운 연구에 따르면, 기자들의 작업량이 증가하고 있습니다.
혈액 점성, 체내에서 실시간 측정하는 새 기술
미주리대 연구진이 혈액의 점성(혈액의 끈적함)을 체내에서 비침습적으로 실시간 감시하는 기술을 개발했다. 초음파와 신호 처리 소프트웨어로 점성과 밀도를 동시에 측정한다.
대체 스플라이싱이 포유류 수명 차이를 설명할 수 있다
Nature Communications에 실린 연구는 포유류 26종(최대 수명 2.2년에서 37년)을 비교해, 유전자 발현보다 대체 스플라이싱 방식 변화가 최대 수명을 더 잘 예측한다고 밝혔다. 특히 뇌에서 관련 사건이 두 배로 많았다.
웹3 기술이 농민에게 데이터 권한을 부여하다
웹3 기술은 농민이 자신의 데이터를 통제하는 데 도움을 줄 수 있습니다. 이 기술은 개발도상국의 농업을 변화시킬 잠재력이 있습니다.