В исследовании, представленном в апреле на конференции CHI Ассоциации вычислительной техники, команда во главе с лабораторией Virginia Tech изучала, как ответы больших языковых моделей меняются, если пользователь сообщает о наличии аутизма перед вопросом о повседневном социальном выборе.
Авторы выделили 12 документированных стереотипов и создали сотни сценариев, затем протестировали шесть крупных моделей, включая известные системы. Они сгенерировали сотни тысяч ответов на тысячи подсказок формата «Сделать A или B?» о мероприятиях, конфронтациях, новых впечатлениях и романтических отношениях.
В результатах нашлись яркие примеры: одна модель после раскрытия диагноза рекомендовала отказываться от приглашения значительно чаще, чем без упоминания, а в сценариях свиданий другая модель чаще советовала избегать романтики. Команда также показала ответы одиннадцати пользователям с аутизмом; некоторые из них называли рекомендации ограничивающими или покровительственными. Исследователи говорят, что нужно работать над прозрачностью и контролем пользователей.
Сложные слова
- исследование — научная работа по теме или вопросуисследовании
- конференция — встреча специалистов для презентаций и обсужденийконференции
- стереотип — упрощённое представление о группе людейстереотипов
- сценарий — описание возможного хода событий в ситуациисценариев
- модель — программа или система, которая отвечает на вопросымоделей
- подсказка — короткий текст или вопрос для моделиподсказок
- рекомендовать — советовать действие или выбор другому человекурекомендовала
- прозрачность — состояние, когда информация понятна и открытапрозрачностью
- контроль — возможность управлять или регулировать процесс или системуконтролем
Подсказка: наведите, сфокусируйтесь или нажмите на выделенные слова, чтобы увидеть краткие определения прямо во время чтения или прослушивания.
Вопросы для обсуждения
- Почему, по вашему мнению, некоторые люди с аутизмом считали рекомендации ограничивающими или покровительственными?
- Какие меры прозрачности и контроля пользователей можно предложить для языковых моделей?
- Должны ли модели предупреждать о возможной предвзятости, когда пользователь сообщает о диагнозе? Почему?
Похожие статьи
Цифровые создатели в Африке: рост и проблемы
Отчёт, представленный на саммите в Лагосе, оценивает объём цифрового креативного сектора в USD 3 billion сегодня и прогнозирует более USD 17 billion к 2030 году. Многие создатели зарабатывают очень мало, платёжные системы и ИИ создают дополнительные барьеры.