Новое исследование показывает, что обычные ответы чат‑ботов на основе больших языковых моделей могут неосознанно влиять на социальные и политические мнения. Статья опубликована в PNAS Nexus; ведущий автор — Мэттью Шу (Yale College 2025), среди соавторов есть исследователи из Yale и Rutgers University, старший автор — Даниел Карелл, assistant professor of sociology at Yale University.
В эксперименте 1,912 участников читали сводки о двух событиях XX века: Сиэтлской общей забастовке в феврале 1919 года и студенческих протестах Third World Liberation Front в 1968 году. Тексты предоставляли в трёх вариантах: стандартные сводки от GPT‑4o, соответствующие статьи Википедии и сводки с либеральной или консервативной фреймировкой.
По сравнению с Википедией, стандартные AI‑сводки и либеральная фреймировка чаще смещали оценки в более либеральную сторону, тогда как консервативная фреймировка давала более консервативные оценки. Авторы подчёркивают, что эффект невелик — лёгкий сдвиг от умеренной позиции к чуть более либеральной. Либеральная фреймировка усиливала либеральные мнения в разных группах, а консервативная оказывала статистически значимый эффект преимущественно у самоназывающих себя консерваторов.
Исследователи связывают влияние с латентными смещениями, появившимися в процессе обучения LLM, и с наводками при запросе; по их словам, консервативная фреймировка может происходить главным образом из наводок при запросе, тогда как либеральная — из сочетания латентных и навигационных смещений. Авторы предупреждают, что в отличие от прозрачных правок в Википедии разработка чат‑ботов остаётся непрозрачной, и компании, создающие модели, имеют возможность формировать мнения людей.
Сложные слова
- фреймировка — способ подачи информации с определённой точки зренияфреймировкой
- наводка — подсказка или сигнал, задающий направление ответанаводками, наводок
- латентный — скрытый, неявный, существующий без явного проявлениялатентными, латентных
- смещение — систематическое отклонение мнений или оценоксмещениями, смещений
- сводка — краткое изложение основных фактов или событийсводки
- либеральный — поддерживающий более прогрессивные политические идеилиберальную, либеральная, либеральные
- непрозрачный — недающий представления о процессе или содержаниинепрозрачной
Подсказка: наведите, сфокусируйтесь или нажмите на выделенные слова, чтобы увидеть краткие определения прямо во время чтения или прослушивания.
Вопросы для обсуждения
- Насколько серьёзной кажется вам проблема небольшого смещения общественных мнений из‑за ответов чат‑ботов? Приведите причины.
- Какие меры могли бы повысить прозрачность и снизить смещения в ответах больших языковых моделей? Назовите несколько примеров.
- С чем вы лично больше склонны доверять — сжатым сводкам в AI или статьям Википедии? Какие факторы влияют на ваше доверие?
Похожие статьи
Как представительство учёных влияет на доверие
Новое исследование в журнале Nature Human Behaviour показывает: демографическое представительство учёных влияет на общественное доверие в США. Авторы считают, что большее включение разных людей может укрепить доверие в условиях дезинформации и поляризации.
CPHIA 2025 в Дурбане: план производства вакцин и риск сокращения помощи
В Дурбане проходит 4-я Международная конференция по общественному здравоохранению в Африке (CPHIA 2025). Обсуждают пан‑африканский план по производству вакцин с инвестицией US$3.2 billion и опасения из‑за сокращения зарубежной помощи.
