В апреле ChatGPT от OpenAI достиг миллиарда активных пользователей в неделю. При этом исследователи и журналисты заметили случаи вреда из‑за предвзяности ИИ.
Учёные из Университета Техаса в Остине изучили набор алгоритмов из специального хранилища. Они сравнивали проблемные алгоритмы с похожими, у которых не отмечали предвзяности.
Исследование выделило три причины: нет ясной эталонной истины, модели упрощают реальность и не учитывают все нужные переменные, а также при работе участвует мало разных людей. Учёные считают, что нужно больше разных данных и людей в разработке.
Сложные слова
- предвзятость — несправедливое отношение к людям или идеямпредвзяности
- алгоритм — набор правил или шагов для решения задачиалгоритмов
- истина — то, что считается правильным или фактомистины
- упрощать — делать что-то менее сложным или точнымупрощают
- переменная — данные или фактор, который может менятьсяпеременные
- хранилище — место или система для хранения информациихранилища
- разработка — процесс создания продукта или программыразработке
Подсказка: наведите, сфокусируйтесь или нажмите на выделенные слова, чтобы увидеть краткие определения прямо во время чтения или прослушивания.
Вопросы для обсуждения
- Почему важно иметь разные данные для ИИ?
- Приведите пример, когда модель упрощает реальность.
- Как можно привлечь больше разных людей в разработку?
Похожие статьи
Как просмотр искусства меняет мышление
Исследование показало, что просмотр художественных короткометражек повышает творческое мышление по сравнению с развлекательными видеонарезками. Зрители художественных фильмов лучше справлялись с задачами на креативность, несмотря на более плохое эмоциональное состояние.
Как ИИ меняет медицинскую помощь в субсахарской Африке
Искусственный интеллект уже помогает ставить диагнозы и ускорять доставку медицинских услуг в некоторых частях субсахарской Африки. Проекты показывают снижение ошибок и более быструю помощь, но остаются проблемы с регулированием, финансированием и безопасностью данных.
Как сделать науку интересной для людей
Мероприятия, которые сочетают эксперименты, короткие лекции и практические занятия, помогают изменить отношение к науке. Организаторы планируют программы для разных возрастов, оценивают их эффект и решают проблемы финансирования и безопасности.
