В апреле на конференции CHI была представлена работа о том, как информация о диагнозе влияет на ответы систем ИИ. Исследователи разработали множество сценариев социальных выборов и протестировали шесть больших языковых моделей.
Они выделили двенадцать документированных стереотипов и сгенерировали тысячи ответов на подсказки формата «Сделать A или B?». Результаты показали, что раскрытие диагноза часто меняет рекомендации моделей и может соответствовать общим стереотипам.
Параллельно с тестами команда опросила пользователей с аутизмом; некоторые были шокированы, а другие чувствовали, что более осторожные советы создают ощущение защиты. Исследователи хотят, чтобы системы стали прозрачнее и давали пользователям больше контроля.
Сложные слова
- диагноз — медицинская информация о болезни человекадиагнозе, диагноза
- стереотип — упрощённая идея о группе людейстереотипов, стереотипам
- подсказка — короткий текст, который даёт инструкцию моделиподсказки
- модель — программа, которая отвечает на вопросы пользователямоделей
- сгенерировать — создать текст или ответ с помощью компьютерасгенерировали
- прозрачный — понятный и открытый для пользователейпрозрачнее
- рекомендация — совет или предложение для действиярекомендации
Подсказка: наведите, сфокусируйтесь или нажмите на выделенные слова, чтобы увидеть краткие определения прямо во время чтения или прослушивания.
Вопросы для обсуждения
- Почему, по-вашему, раскрытие диагноза может менять советы ИИ?
- Как вы относитесь к идее, что системы ИИ должны давать пользователям больше контроля?
- Какие чувства могли испытывать люди, когда получали более осторожные советы?
Похожие статьи
Социальные сети и чтение у подростков
Новое исследование связывает регулярное использование социальных сетей в раннем подростковом возрасте с замедлением развития навыков чтения и словарного запаса. Исследование обсуждается на фоне запрета для детей до 16 лет в Австралии и предложений по возрастным ограничениям.