В апреле на конференции CHI была представлена работа о том, как информация о диагнозе влияет на ответы систем ИИ. Исследователи разработали множество сценариев социальных выборов и протестировали шесть больших языковых моделей.
Они выделили двенадцать документированных стереотипов и сгенерировали тысячи ответов на подсказки формата «Сделать A или B?». Результаты показали, что раскрытие диагноза часто меняет рекомендации моделей и может соответствовать общим стереотипам.
Параллельно с тестами команда опросила пользователей с аутизмом; некоторые были шокированы, а другие чувствовали, что более осторожные советы создают ощущение защиты. Исследователи хотят, чтобы системы стали прозрачнее и давали пользователям больше контроля.
Сложные слова
- диагноз — медицинская информация о болезни человекадиагнозе, диагноза
- стереотип — упрощённая идея о группе людейстереотипов, стереотипам
- подсказка — короткий текст, который даёт инструкцию моделиподсказки
- модель — программа, которая отвечает на вопросы пользователямоделей
- сгенерировать — создать текст или ответ с помощью компьютерасгенерировали
- прозрачный — понятный и открытый для пользователейпрозрачнее
- рекомендация — совет или предложение для действиярекомендации
Подсказка: наведите, сфокусируйтесь или нажмите на выделенные слова, чтобы увидеть краткие определения прямо во время чтения или прослушивания.
Вопросы для обсуждения
- Почему, по-вашему, раскрытие диагноза может менять советы ИИ?
- Как вы относитесь к идее, что системы ИИ должны давать пользователям больше контроля?
- Какие чувства могли испытывать люди, когда получали более осторожные советы?
Похожие статьи
Анализ крови на основе ИИ помогает отличать деменцию
Учёные разработали анализ крови, основанный на искусственном интеллекте, который может отличать распространённые причины деменции от нормального старения. Тест показал высокую точность, но для клинического применения нужны дополнительные исследования.
Возраст гранул термитов показывает, активна ли колония
Исследование Университета Калифорнии в Риверсайде показало, что микробы в гранулах помёта термитов меняются со временем. Ученые измерили падение бактериальной ДНК и предлагают полевой тест, чтобы отличать свежие гранулы от старых.
Электроэнергия и интернет ограничивают ИИ в Субсахарской Африке
Ненадёжное электроснабжение и дорогой, медленный интернет мешают внедрению искусственного интеллекта в Субсахарской Африке. Миллионы людей остаются без света и связи, школы не подключены, а решения требуют инвестиций и политической воли.
Дым лесных пожаров в поздней беременности и риск аутизма
Исследование в Южной Калифорнии показало связь между воздействием дыма от лесных пожаров в последние месяцы беременности и повышенным риском диагноза аутизма у ребёнка к пяти годам. Авторы говорят, что причинность не установлена окончательно.