Инструменты искусственного интеллекта быстро распространяются, но вместе с ними появляются случаи вреда из‑за предвзяности. В одном отчёте говорится, что предвзятые системы меняли медицинское лечение и дискриминировали при найме.
Исследование Университета Техаса в Остине провели Хьюсейн Танриверди и Джон‑Патрик Акиньеми. Они изучили набор алгоритмов из хранилища AI Algorithmic and Automation Incidents and Controversies и взяли для анализа много проблемных систем. Каждую проблемную систему сравнили с похожим алгоритмом без пометок о предвзятости; учёные исследовали и сами алгоритмы, и организации, которые их создавали и использовали.
Авторы нашли три связанных фактора риска: отсутствие установленной эталонной истины, упрощение сложной реальности и низкое участие разных заинтересованных сторон. Например, автоматические решения по пособиям Medicaid в Арканзасе лишили части людей нужной помощи, потому что алгоритмы не учитывали все переменные.
Сложные слова
- предвзятость — несправедливое отношение к людям или идеямпредвзяности
- алгоритм — правила или инструкции для решения задачалгоритмов, алгоритмы
- хранилище — место для хранения данных или файловхранилища
- упрощение — делать что‑то менее сложным или подробным
- сторона — человек или организация, вовлечённые в делосторон
- пособие — материальная помощь или выплата людям в нуждепособия
- исследование — сбор и анализ информации для проверки вопросов
- дискриминировать — обращаться плохо с людьми из‑за их признаковдискриминировали
Подсказка: наведите, сфокусируйтесь или нажмите на выделенные слова, чтобы увидеть краткие определения прямо во время чтения или прослушивания.
Вопросы для обсуждения
- Как, по‑вашему, можно увеличить участие разных заинтересованных сторон при создании алгоритмов?
- Что можно сделать, чтобы алгоритмы не лишали людей нужной помощи?
- Знаете ли вы примеры в вашей стране, когда технология навредила людям? Опишите коротко.
Похожие статьи
Надувной робот для сбора яблок в Вашингтоне
Из‑за нехватки сборщиков в штате Вашингтон учёные из Washington State University создали недорогой надувной робот‑манипулятор, который помогает снимать яблоки. Устройство безопасно для людей и сейчас дорабатывается перед коммерческим запуском.
Убийства соседей дали шимпанзе Нгого репродуктивное преимущество
Исследователи изучили сообщество шимпанзе Нгого в Уганде и обнаружили, что после убийств соседей и расширения территории у группы выросло число рождений и выживаемость детёнышей. Авторы предупреждают, что эффект был краткосрочным.
Почему языковые модели ошибаются при умножении четырёхзначных чисел
Новое исследование показало, что современные большие языковые модели плохо умножают четырёхзначные числа, потому что не хранят и не используют промежуточные результаты. Метод ICoT и дополнительные цели обучения помогают моделям запоминать шаги и давать правильный ответ.
