В апреле ChatGPT от OpenAI достиг миллиарда активных пользователей в неделю. При этом исследователи и журналисты заметили случаи вреда из‑за предвзяности ИИ.
Учёные из Университета Техаса в Остине изучили набор алгоритмов из специального хранилища. Они сравнивали проблемные алгоритмы с похожими, у которых не отмечали предвзяности.
Исследование выделило три причины: нет ясной эталонной истины, модели упрощают реальность и не учитывают все нужные переменные, а также при работе участвует мало разных людей. Учёные считают, что нужно больше разных данных и людей в разработке.
Сложные слова
- предвзятость — несправедливое отношение к людям или идеямпредвзяности
- алгоритм — набор правил или шагов для решения задачиалгоритмов
- истина — то, что считается правильным или фактомистины
- упрощать — делать что-то менее сложным или точнымупрощают
- переменная — данные или фактор, который может менятьсяпеременные
- хранилище — место или система для хранения информациихранилища
- разработка — процесс создания продукта или программыразработке
Подсказка: наведите, сфокусируйтесь или нажмите на выделенные слова, чтобы увидеть краткие определения прямо во время чтения или прослушивания.
Вопросы для обсуждения
- Почему важно иметь разные данные для ИИ?
- Приведите пример, когда модель упрощает реальность.
- Как можно привлечь больше разных людей в разработку?
Похожие статьи
Учёные отследили активность мозга по отдельным клеткам в течение суток
Учёные разработали экспериментальные и вычислительные методы для отслеживания активности нейронов в мозге мышей в течение суточного цикла. Работа, опубликованная в PLOS Biology, показала сдвиг активности от глубины к коре мозга.
