Инструменты искусственного интеллекта быстро распространяются, но вместе с ними появляются случаи вреда из‑за предвзяности. В одном отчёте говорится, что предвзятые системы меняли медицинское лечение и дискриминировали при найме.
Исследование Университета Техаса в Остине провели Хьюсейн Танриверди и Джон‑Патрик Акиньеми. Они изучили набор алгоритмов из хранилища AI Algorithmic and Automation Incidents and Controversies и взяли для анализа много проблемных систем. Каждую проблемную систему сравнили с похожим алгоритмом без пометок о предвзятости; учёные исследовали и сами алгоритмы, и организации, которые их создавали и использовали.
Авторы нашли три связанных фактора риска: отсутствие установленной эталонной истины, упрощение сложной реальности и низкое участие разных заинтересованных сторон. Например, автоматические решения по пособиям Medicaid в Арканзасе лишили части людей нужной помощи, потому что алгоритмы не учитывали все переменные.
Сложные слова
- предвзятость — несправедливое отношение к людям или идеямпредвзяности
- алгоритм — правила или инструкции для решения задачалгоритмов, алгоритмы
- хранилище — место для хранения данных или файловхранилища
- упрощение — делать что‑то менее сложным или подробным
- сторона — человек или организация, вовлечённые в делосторон
- пособие — материальная помощь или выплата людям в нуждепособия
- исследование — сбор и анализ информации для проверки вопросов
- дискриминировать — обращаться плохо с людьми из‑за их признаковдискриминировали
Подсказка: наведите, сфокусируйтесь или нажмите на выделенные слова, чтобы увидеть краткие определения прямо во время чтения или прослушивания.
Вопросы для обсуждения
- Как, по‑вашему, можно увеличить участие разных заинтересованных сторон при создании алгоритмов?
- Что можно сделать, чтобы алгоритмы не лишали людей нужной помощи?
- Знаете ли вы примеры в вашей стране, когда технология навредила людям? Опишите коротко.
Похожие статьи
Ботовые атаки на Instagram в Западных Балканах, ноябрь 2025
В ноябре 2025 года координированные боты атаковали активистские и медийные аккаунты в странах Западных Балкан. Расследование Meta.mk 16 и 23 ноября 2025 описывает похожие кампании в Сербии и Северной Македонии.
Филиппины усиливают борьбу с африканской чумой свиней
Филиппины внедрили новые технологии для борьбы с африканской чумой свиней, на фоне опасений по поводу вакцины из Вьетнама.
Анализ соцсетей как раннее предупреждение о перемещениях людей
Учёные показали, что сообщения в социальных сетях могут давать ранние сигналы о перемещениях людей во время конфликтов и бедствий. Исследование в EPJ Data Science анализирует почти 2 миллиона публикаций и три случая перемещений.
Novartis представил новое лечение малярии GanLum
Novartis объявила о лечении GanLum с новой молекулой ganaplacide. В позднем испытании в 12 странах субсахарской Африки препарат вылечил 97.4% пациентов и может выйти на рынок примерно в 2027 году.
Искусственный интеллект: неравенство между Глобальным Севером и Югом
AI приносит большие выгоды, но они распределяются неравно. В статье описаны исторические причины, примеры в Африке и предложения по справедливому управлению, включая роль ООН и регионального сотрудничества.
Новые AI‑инструменты для борьбы с туберкулёзом
На конференции Union World Conference on Lung Health в Копенгагене (18–21 ноября) показали четыре AI‑инструмента для диагностики и мониторинга туберкулёза. Некоторые результаты многообещающие, но требуется дополнительная проверка и внедрение.