В исследовании, представленном в апреле на конференции CHI Ассоциации вычислительной техники, команда во главе с лабораторией Virginia Tech изучала, как ответы больших языковых моделей меняются, если пользователь сообщает о наличии аутизма перед вопросом о повседневном социальном выборе.
Авторы выделили 12 документированных стереотипов и создали сотни сценариев, затем протестировали шесть крупных моделей, включая известные системы. Они сгенерировали сотни тысяч ответов на тысячи подсказок формата «Сделать A или B?» о мероприятиях, конфронтациях, новых впечатлениях и романтических отношениях.
В результатах нашлись яркие примеры: одна модель после раскрытия диагноза рекомендовала отказываться от приглашения значительно чаще, чем без упоминания, а в сценариях свиданий другая модель чаще советовала избегать романтики. Команда также показала ответы одиннадцати пользователям с аутизмом; некоторые из них называли рекомендации ограничивающими или покровительственными. Исследователи говорят, что нужно работать над прозрачностью и контролем пользователей.
Сложные слова
- исследование — научная работа по теме или вопросуисследовании
- конференция — встреча специалистов для презентаций и обсужденийконференции
- стереотип — упрощённое представление о группе людейстереотипов
- сценарий — описание возможного хода событий в ситуациисценариев
- модель — программа или система, которая отвечает на вопросымоделей
- подсказка — короткий текст или вопрос для моделиподсказок
- рекомендовать — советовать действие или выбор другому человекурекомендовала
- прозрачность — состояние, когда информация понятна и открытапрозрачностью
- контроль — возможность управлять или регулировать процесс или системуконтролем
Подсказка: наведите, сфокусируйтесь или нажмите на выделенные слова, чтобы увидеть краткие определения прямо во время чтения или прослушивания.
Вопросы для обсуждения
- Почему, по вашему мнению, некоторые люди с аутизмом считали рекомендации ограничивающими или покровительственными?
- Какие меры прозрачности и контроля пользователей можно предложить для языковых моделей?
- Должны ли модели предупреждать о возможной предвзятости, когда пользователь сообщает о диагнозе? Почему?
Похожие статьи
Кони Ншемерейрве о науке и образовании в Африке
Кони Ншемерейрве — специалист по оценке образования и бывшая инженер. Она говорит, что исследования в Африке должны формироваться местными сообществами и отмечает последствия длительного закрытия школ в Уганде для детей и подростков.
Носовой мазок выявляет ранние признаки болезни Альцгеймера
Новое исследование показывает, что простой носовой мазок, взятый высоко в носу, может обнаруживать ранние биологические изменения, связанные с болезнью Альцгеймера до появления проблем с памятью. Метод даёт прямую информацию о нервных и иммунных клетках.
Замедлить репосты, чтобы уменьшить дезинформацию
Исследователи из Университета Копенгагена предлагают сделать репосты чуть сложнее: добавить небольшую паузу и элемент обучения. Модель показывает, что пауза снижает репосты, а пауза вместе с обучением повышает качество распространяемых постов.
Активисты в Эквадоре используют технологии против дезинформации
Группа активистов в Эквадоре возродила локальную ячейку Hacks Hackers и провела конференцию и хакатон, чтобы бороться с электоральной дезинформацией с помощью ИИ и гражданских технологий. Победители получили призы, менторство и продолжат работу над прототипами.