В апреле ChatGPT от OpenAI достиг миллиарда активных пользователей в неделю. При этом исследователи и журналисты заметили случаи вреда из‑за предвзяности ИИ.
Учёные из Университета Техаса в Остине изучили набор алгоритмов из специального хранилища. Они сравнивали проблемные алгоритмы с похожими, у которых не отмечали предвзяности.
Исследование выделило три причины: нет ясной эталонной истины, модели упрощают реальность и не учитывают все нужные переменные, а также при работе участвует мало разных людей. Учёные считают, что нужно больше разных данных и людей в разработке.
Сложные слова
- предвзятость — несправедливое отношение к людям или идеямпредвзяности
- алгоритм — набор правил или шагов для решения задачиалгоритмов
- истина — то, что считается правильным или фактомистины
- упрощать — делать что-то менее сложным или точнымупрощают
- переменная — данные или фактор, который может менятьсяпеременные
- хранилище — место или система для хранения информациихранилища
- разработка — процесс создания продукта или программыразработке
Подсказка: наведите, сфокусируйтесь или нажмите на выделенные слова, чтобы увидеть краткие определения прямо во время чтения или прослушивания.
Вопросы для обсуждения
- Почему важно иметь разные данные для ИИ?
- Приведите пример, когда модель упрощает реальность.
- Как можно привлечь больше разных людей в разработку?
Похожие статьи
Европейский экспорт ИИ и права человека в Западной Азии и Северной Африке
Исследование 7amleh показывает: европейские правила по искусственному интеллекту не работают, когда технологии и деньги покидают ЕС. Это приводит к поставкам технологий и финансированию, которые затрагивают права человека в странах Западной Азии и Северной Африки.
Тёплая погода делает коричневых анолов более агрессивными
Исследование показало, что при повышении температуры инвазивные коричневые анолы становятся относительно более агрессивными по отношению к местным зелёным анолам. Работа проведена в лаборатории Gunderson Lab при Tulane University и опубликована в Journal of Thermal Biology.
