Группа исследователей представила инструмент — браузерное расширение в связке с большой языковой моделью — который выявляет в ленте X антидемократические установки и партийную враждебность и переставляет соответствующие посты в порядке показа. Критерии оценки включали отвержение межпартийного сотрудничества, скептицизм к фактам, выгодным другой партии, и готовность пренебречь демократическими принципами ради пользы предпочитаемой партии; также учитывались призывы к насилию или к заключению оппонентов. Вместо удаления контента инструмент лишь менял его положение, а перестановки выполнялись за считанные секунды.
В экспериментальной верификации примерно 1,200 добровольцев использовали систему около 10 дней во время выборов 2024 года. В отдельных семидневных испытаниях одни группы видели ленты с пониженным или повышенным ранжированием целевого контента, тогда как контрольная группа не видела таких перестановок. Участники, у которых антидемократический контент был понижен, сообщали более «тёплые» чувства к людям противоположной партии; эффект наблюдался как у тех, кто называл себя либералами, так и у консерваторов. По данным опросов до и после эксперимента на шкале от 1 до 100 среднее отношение улучшилось на 2 пункта, что, по авторам, сопоставимо с предполагаемым изменением настроений в США за три года.
Сопредседатели проекта Мартин Савески (Martin Saveski) из University of Washington Information School и Тициано Пиккарди (Tiziano Piccardi) из Johns Hopkins University подчеркнули, что участники чувствовали себя «теплее», когда видели меньше целевого контента, и «холоднее», когда его было больше. Команда, объединяющая информационные науки, информатику, психологию и коммуникации, опубликовала код для создания независимых систем ранжирования. Работа получила поддержку от National Science Foundation, Swiss National Science Foundation и гранта Hoffman-Yee от Stanford Institute for Human-Centered Artificial Intelligence; дополнительные соавторы представляют Northeastern и Stanford.
Сложные слова
- расширение — программа, добавляемая в браузер для функций
- модель — компьютерная система, обученная предсказывать текстмоделью
- антидемократический — противоречащий принципам демократии, ограничивающий права людейантидемократические
- враждебность — негативное отношение, желание вредить другой стороне
- ранжирование — упорядочивание элементов по важности или приоритетуранжированием
- перестановка — изменение порядка предметов или элементов спискаперестановки
- верификация — проверка достоверности или правильности данныхверификации
- доброволец — человек, делающий что-то по собственной воледобровольцев
- скептицизм — сомнение в правдивости или надёжности утверждений
Подсказка: наведите, сфокусируйтесь или нажмите на выделенные слова, чтобы увидеть краткие определения прямо во время чтения или прослушивания.
Вопросы для обсуждения
- Как изменение порядка постов, а не их удаление, может влиять на политический диалог в интернете?
- Какие плюсы и минусы вы видите в том, что авторы опубликовали код для независимых систем ранжирования?
- Насколько убедительным кажется вам результат улучшения отношения на 2 пункта; какие факторы могли повлиять на такой эффект?
Похожие статьи
«Робо‑броненосец»: сворачивающаяся защита для электроники
Учёные из North Carolina State University создали структуру MIPM, которая при касании автоматически сворачивается и укрывает электронные устройства. Устройство вдохновлено броненосцами и должно защищать мягкие роботы и гибкую электронику.
Снижение воспаления помогает при депрессии
Систематический обзор и метаанализ показали: у людей с депрессией и повышенным воспалением противовоспалительная терапия уменьшила симптомы и анхедонию. Авторы отмечают отсутствие роста серьёзных побочных эффектов, но лекарства не одобрены для этой цели.
Замедлить репосты, чтобы уменьшить дезинформацию
Исследователи из Университета Копенгагена предлагают сделать репосты чуть сложнее: добавить небольшую паузу и элемент обучения. Модель показывает, что пауза снижает репосты, а пауза вместе с обучением повышает качество распространяемых постов.
Неравенство и пандемии: почему одна угроза усиливает другую
Мэтью М. Кэванах говорит, что наука быстрее борется с вирусами, но растущее неравенство делает общества уязвимыми. Он предлагает изменения в финансах, технологиях и социальной политике, чтобы разорвать цикл неравенство—пандемия.