В апреле ChatGPT от OpenAI достиг миллиарда активных пользователей в неделю. При этом исследователи и журналисты заметили случаи вреда из‑за предвзяности ИИ.
Учёные из Университета Техаса в Остине изучили набор алгоритмов из специального хранилища. Они сравнивали проблемные алгоритмы с похожими, у которых не отмечали предвзяности.
Исследование выделило три причины: нет ясной эталонной истины, модели упрощают реальность и не учитывают все нужные переменные, а также при работе участвует мало разных людей. Учёные считают, что нужно больше разных данных и людей в разработке.
Сложные слова
- предвзятость — несправедливое отношение к людям или идеямпредвзяности
- алгоритм — набор правил или шагов для решения задачиалгоритмов
- истина — то, что считается правильным или фактомистины
- упрощать — делать что-то менее сложным или точнымупрощают
- переменная — данные или фактор, который может менятьсяпеременные
- хранилище — место или система для хранения информациихранилища
- разработка — процесс создания продукта или программыразработке
Подсказка: наведите, сфокусируйтесь или нажмите на выделенные слова, чтобы увидеть краткие определения прямо во время чтения или прослушивания.
Вопросы для обсуждения
- Почему важно иметь разные данные для ИИ?
- Приведите пример, когда модель упрощает реальность.
- Как можно привлечь больше разных людей в разработку?
Похожие статьи
Как в мозге устанавливают время: роль супрахиазматического ядра
Учёные разработали инструмент MITE, чтобы изучить, как клетки супрахиазматического ядра (SCN) обмениваются сигналами. Они нашли небольшую группу высокосвязанных «хаб»-клеток, которые критически важны для синхронизации биологических часов.
Искусственный интеллект помогает диагностировать аутизм в Миссури
Учёные из University of Missouri проверили одобренное FDA устройство CanvasDx с искусственным интеллектом для помощи при диагностике аутизма. В исследовании из 80 детей устройство дало определённые результаты для 52% и не давало ложных диагнозов.