В апреле ChatGPT от OpenAI достиг миллиарда активных пользователей в неделю. При этом исследователи и журналисты заметили случаи вреда из‑за предвзяности ИИ.
Учёные из Университета Техаса в Остине изучили набор алгоритмов из специального хранилища. Они сравнивали проблемные алгоритмы с похожими, у которых не отмечали предвзяности.
Исследование выделило три причины: нет ясной эталонной истины, модели упрощают реальность и не учитывают все нужные переменные, а также при работе участвует мало разных людей. Учёные считают, что нужно больше разных данных и людей в разработке.
Сложные слова
- предвзятость — несправедливое отношение к людям или идеямпредвзяности
- алгоритм — набор правил или шагов для решения задачиалгоритмов
- истина — то, что считается правильным или фактомистины
- упрощать — делать что-то менее сложным или точнымупрощают
- переменная — данные или фактор, который может менятьсяпеременные
- хранилище — место или система для хранения информациихранилища
- разработка — процесс создания продукта или программыразработке
Подсказка: наведите, сфокусируйтесь или нажмите на выделенные слова, чтобы увидеть краткие определения прямо во время чтения или прослушивания.
Вопросы для обсуждения
- Почему важно иметь разные данные для ИИ?
- Приведите пример, когда модель упрощает реальность.
- Как можно привлечь больше разных людей в разработку?
Похожие статьи
Как люди с нарушением зрения оценивают приближение автомобилей
Исследование с виртуальной реальностью сравнивает взрослых с возрастной макулярной дегенерацией (AMD) и людей с нормальным зрением. Участники смотрели, слушали или делали оба сигнала и указывали время прибытия машины.
