В апреле на конференции CHI была представлена работа о том, как информация о диагнозе влияет на ответы систем ИИ. Исследователи разработали множество сценариев социальных выборов и протестировали шесть больших языковых моделей.
Они выделили двенадцать документированных стереотипов и сгенерировали тысячи ответов на подсказки формата «Сделать A или B?». Результаты показали, что раскрытие диагноза часто меняет рекомендации моделей и может соответствовать общим стереотипам.
Параллельно с тестами команда опросила пользователей с аутизмом; некоторые были шокированы, а другие чувствовали, что более осторожные советы создают ощущение защиты. Исследователи хотят, чтобы системы стали прозрачнее и давали пользователям больше контроля.
Сложные слова
- диагноз — медицинская информация о болезни человекадиагнозе, диагноза
- стереотип — упрощённая идея о группе людейстереотипов, стереотипам
- подсказка — короткий текст, который даёт инструкцию моделиподсказки
- модель — программа, которая отвечает на вопросы пользователямоделей
- сгенерировать — создать текст или ответ с помощью компьютерасгенерировали
- прозрачный — понятный и открытый для пользователейпрозрачнее
- рекомендация — совет или предложение для действиярекомендации
Подсказка: наведите, сфокусируйтесь или нажмите на выделенные слова, чтобы увидеть краткие определения прямо во время чтения или прослушивания.
Вопросы для обсуждения
- Почему, по-вашему, раскрытие диагноза может менять советы ИИ?
- Как вы относитесь к идее, что системы ИИ должны давать пользователям больше контроля?
- Какие чувства могли испытывать люди, когда получали более осторожные советы?
Похожие статьи
Носовой мазок выявляет ранние признаки болезни Альцгеймера
Новое исследование показывает, что простой носовой мазок, взятый высоко в носу, может обнаруживать ранние биологические изменения, связанные с болезнью Альцгеймера до появления проблем с памятью. Метод даёт прямую информацию о нервных и иммунных клетках.
Africa Wiki Women увеличивает видимость африканских женщин в Wikimedia
Инициатива Africa Wiki Women помогает африканским женщинам создавать и улучшать материалы на Wikipedia и других платформах Wikimedia. Группа провела обучение более 500 женщин и подготовила сотни статей о женщинах-лидерах и организациях.