В апреле на конференции CHI была представлена работа о том, как информация о диагнозе влияет на ответы систем ИИ. Исследователи разработали множество сценариев социальных выборов и протестировали шесть больших языковых моделей.
Они выделили двенадцать документированных стереотипов и сгенерировали тысячи ответов на подсказки формата «Сделать A или B?». Результаты показали, что раскрытие диагноза часто меняет рекомендации моделей и может соответствовать общим стереотипам.
Параллельно с тестами команда опросила пользователей с аутизмом; некоторые были шокированы, а другие чувствовали, что более осторожные советы создают ощущение защиты. Исследователи хотят, чтобы системы стали прозрачнее и давали пользователям больше контроля.
Сложные слова
- диагноз — медицинская информация о болезни человекадиагнозе, диагноза
- стереотип — упрощённая идея о группе людейстереотипов, стереотипам
- подсказка — короткий текст, который даёт инструкцию моделиподсказки
- модель — программа, которая отвечает на вопросы пользователямоделей
- сгенерировать — создать текст или ответ с помощью компьютерасгенерировали
- прозрачный — понятный и открытый для пользователейпрозрачнее
- рекомендация — совет или предложение для действиярекомендации
Подсказка: наведите, сфокусируйтесь или нажмите на выделенные слова, чтобы увидеть краткие определения прямо во время чтения или прослушивания.
Вопросы для обсуждения
- Почему, по-вашему, раскрытие диагноза может менять советы ИИ?
- Как вы относитесь к идее, что системы ИИ должны давать пользователям больше контроля?
- Какие чувства могли испытывать люди, когда получали более осторожные советы?
Похожие статьи
Когда ребёнку давать телефон и зачем возвращаются к стационарному
Родители часто не уверены, когда давать ребёнку смартфон. Эксперты Virginia Tech считают, что примерно с 12–13 лет дети могут быть готовы; некоторые семьи выбирают домашний стационарный телефон из соображений общения и границ.
Новая стратегия США в глобальном здравоохранении
18 сентября США представили America First Global Health Strategy. В документе приоритет — сдерживать вспышки, укреплять двусторонние связи и продвигать американские медицинские разработки; для стран с низким и средним доходом вводят софинансирование и показатели эффективности.
