В исследовании, представленном в апреле на конференции CHI Ассоциации вычислительной техники, команда во главе с лабораторией Virginia Tech изучала, как ответы больших языковых моделей меняются, если пользователь сообщает о наличии аутизма перед вопросом о повседневном социальном выборе.
Авторы выделили 12 документированных стереотипов и создали сотни сценариев, затем протестировали шесть крупных моделей, включая известные системы. Они сгенерировали сотни тысяч ответов на тысячи подсказок формата «Сделать A или B?» о мероприятиях, конфронтациях, новых впечатлениях и романтических отношениях.
В результатах нашлись яркие примеры: одна модель после раскрытия диагноза рекомендовала отказываться от приглашения значительно чаще, чем без упоминания, а в сценариях свиданий другая модель чаще советовала избегать романтики. Команда также показала ответы одиннадцати пользователям с аутизмом; некоторые из них называли рекомендации ограничивающими или покровительственными. Исследователи говорят, что нужно работать над прозрачностью и контролем пользователей.
Сложные слова
- исследование — научная работа по теме или вопросуисследовании
- конференция — встреча специалистов для презентаций и обсужденийконференции
- стереотип — упрощённое представление о группе людейстереотипов
- сценарий — описание возможного хода событий в ситуациисценариев
- модель — программа или система, которая отвечает на вопросымоделей
- подсказка — короткий текст или вопрос для моделиподсказок
- рекомендовать — советовать действие или выбор другому человекурекомендовала
- прозрачность — состояние, когда информация понятна и открытапрозрачностью
- контроль — возможность управлять или регулировать процесс или системуконтролем
Подсказка: наведите, сфокусируйтесь или нажмите на выделенные слова, чтобы увидеть краткие определения прямо во время чтения или прослушивания.
Вопросы для обсуждения
- Почему, по вашему мнению, некоторые люди с аутизмом считали рекомендации ограничивающими или покровительственными?
- Какие меры прозрачности и контроля пользователей можно предложить для языковых моделей?
- Должны ли модели предупреждать о возможной предвзятости, когда пользователь сообщает о диагнозе? Почему?
Похожие статьи
Снижение активности мозговой цепи уменьшает рецидив при опиоидах
Учёные нашли связь между прелимбической корой и паравентрикулярным ядром таламуса. Снижение активности этого пути в доклинической модели заметно уменьшало поведение по поиску наркотика, а оптический метод дал сильный эффект.
Топ‑10 научных новостей года от Futurity
В конце 2025 года Futurity опубликовал подборку десяти заметных новостей о научных исследованиях. Материалы охватывают ветеринарную медицину, энергию, археологию, нейронауки и экологическое здоровье; читателям предложили вернуться в 2026 году.
