В исследовании, представленном в апреле на конференции CHI Ассоциации вычислительной техники, команда во главе с лабораторией Virginia Tech изучала, как ответы больших языковых моделей меняются, если пользователь сообщает о наличии аутизма перед вопросом о повседневном социальном выборе.
Авторы выделили 12 документированных стереотипов и создали сотни сценариев, затем протестировали шесть крупных моделей, включая известные системы. Они сгенерировали сотни тысяч ответов на тысячи подсказок формата «Сделать A или B?» о мероприятиях, конфронтациях, новых впечатлениях и романтических отношениях.
В результатах нашлись яркие примеры: одна модель после раскрытия диагноза рекомендовала отказываться от приглашения значительно чаще, чем без упоминания, а в сценариях свиданий другая модель чаще советовала избегать романтики. Команда также показала ответы одиннадцати пользователям с аутизмом; некоторые из них называли рекомендации ограничивающими или покровительственными. Исследователи говорят, что нужно работать над прозрачностью и контролем пользователей.
Сложные слова
- исследование — научная работа по теме или вопросуисследовании
- конференция — встреча специалистов для презентаций и обсужденийконференции
- стереотип — упрощённое представление о группе людейстереотипов
- сценарий — описание возможного хода событий в ситуациисценариев
- модель — программа или система, которая отвечает на вопросымоделей
- подсказка — короткий текст или вопрос для моделиподсказок
- рекомендовать — советовать действие или выбор другому человекурекомендовала
- прозрачность — состояние, когда информация понятна и открытапрозрачностью
- контроль — возможность управлять или регулировать процесс или системуконтролем
Подсказка: наведите, сфокусируйтесь или нажмите на выделенные слова, чтобы увидеть краткие определения прямо во время чтения или прослушивания.
Вопросы для обсуждения
- Почему, по вашему мнению, некоторые люди с аутизмом считали рекомендации ограничивающими или покровительственными?
- Какие меры прозрачности и контроля пользователей можно предложить для языковых моделей?
- Должны ли модели предупреждать о возможной предвзятости, когда пользователь сообщает о диагнозе? Почему?
Похожие статьи
Сальвадор внедряет ИИ в здравоохранение
Правительство Сальвадора продвигает искусственный интеллект и развивает телемедицинское приложение DoctorSV. Проект стартовал в 2025 году при поддержке CAF и Google, в апреле 2026 объявлена вторая фаза; есть и серьёзные жалобы медиков и опасения по защите данных.
Искусственный интеллект меняет поведение людей на собеседованиях
Новое исследование показывает, что соискатели чаще преувеличивают факты во время видеоинтервью с искусственным интеллектом. Однако открытая информация о работе алгоритмов помогает сделать кандидатов более искренними.
