Инструменты искусственного интеллекта быстро распространяются, но вместе с ними появляются случаи вреда из‑за предвзяности. В одном отчёте говорится, что предвзятые системы меняли медицинское лечение и дискриминировали при найме.
Исследование Университета Техаса в Остине провели Хьюсейн Танриверди и Джон‑Патрик Акиньеми. Они изучили набор алгоритмов из хранилища AI Algorithmic and Automation Incidents and Controversies и взяли для анализа много проблемных систем. Каждую проблемную систему сравнили с похожим алгоритмом без пометок о предвзятости; учёные исследовали и сами алгоритмы, и организации, которые их создавали и использовали.
Авторы нашли три связанных фактора риска: отсутствие установленной эталонной истины, упрощение сложной реальности и низкое участие разных заинтересованных сторон. Например, автоматические решения по пособиям Medicaid в Арканзасе лишили части людей нужной помощи, потому что алгоритмы не учитывали все переменные.
Сложные слова
- предвзятость — несправедливое отношение к людям или идеямпредвзяности
- алгоритм — правила или инструкции для решения задачалгоритмов, алгоритмы
- хранилище — место для хранения данных или файловхранилища
- упрощение — делать что‑то менее сложным или подробным
- сторона — человек или организация, вовлечённые в делосторон
- пособие — материальная помощь или выплата людям в нуждепособия
- исследование — сбор и анализ информации для проверки вопросов
- дискриминировать — обращаться плохо с людьми из‑за их признаковдискриминировали
Подсказка: наведите, сфокусируйтесь или нажмите на выделенные слова, чтобы увидеть краткие определения прямо во время чтения или прослушивания.
Вопросы для обсуждения
- Как, по‑вашему, можно увеличить участие разных заинтересованных сторон при создании алгоритмов?
- Что можно сделать, чтобы алгоритмы не лишали людей нужной помощи?
- Знаете ли вы примеры в вашей стране, когда технология навредила людям? Опишите коротко.
