Группа исследователей представила инструмент — браузерное расширение в связке с большой языковой моделью — который выявляет в ленте X антидемократические установки и партийную враждебность и переставляет соответствующие посты в порядке показа. Критерии оценки включали отвержение межпартийного сотрудничества, скептицизм к фактам, выгодным другой партии, и готовность пренебречь демократическими принципами ради пользы предпочитаемой партии; также учитывались призывы к насилию или к заключению оппонентов. Вместо удаления контента инструмент лишь менял его положение, а перестановки выполнялись за считанные секунды.
В экспериментальной верификации примерно 1,200 добровольцев использовали систему около 10 дней во время выборов 2024 года. В отдельных семидневных испытаниях одни группы видели ленты с пониженным или повышенным ранжированием целевого контента, тогда как контрольная группа не видела таких перестановок. Участники, у которых антидемократический контент был понижен, сообщали более «тёплые» чувства к людям противоположной партии; эффект наблюдался как у тех, кто называл себя либералами, так и у консерваторов. По данным опросов до и после эксперимента на шкале от 1 до 100 среднее отношение улучшилось на 2 пункта, что, по авторам, сопоставимо с предполагаемым изменением настроений в США за три года.
Сопредседатели проекта Мартин Савески (Martin Saveski) из University of Washington Information School и Тициано Пиккарди (Tiziano Piccardi) из Johns Hopkins University подчеркнули, что участники чувствовали себя «теплее», когда видели меньше целевого контента, и «холоднее», когда его было больше. Команда, объединяющая информационные науки, информатику, психологию и коммуникации, опубликовала код для создания независимых систем ранжирования. Работа получила поддержку от National Science Foundation, Swiss National Science Foundation и гранта Hoffman-Yee от Stanford Institute for Human-Centered Artificial Intelligence; дополнительные соавторы представляют Northeastern и Stanford.
Сложные слова
- расширение — программа, добавляемая в браузер для функций
- модель — компьютерная система, обученная предсказывать текстмоделью
- антидемократический — противоречащий принципам демократии, ограничивающий права людейантидемократические
- враждебность — негативное отношение, желание вредить другой стороне
- ранжирование — упорядочивание элементов по важности или приоритетуранжированием
- перестановка — изменение порядка предметов или элементов спискаперестановки
- верификация — проверка достоверности или правильности данныхверификации
- доброволец — человек, делающий что-то по собственной воледобровольцев
- скептицизм — сомнение в правдивости или надёжности утверждений
Подсказка: наведите, сфокусируйтесь или нажмите на выделенные слова, чтобы увидеть краткие определения прямо во время чтения или прослушивания.
Вопросы для обсуждения
- Как изменение порядка постов, а не их удаление, может влиять на политический диалог в интернете?
- Какие плюсы и минусы вы видите в том, что авторы опубликовали код для независимых систем ранжирования?
- Насколько убедительным кажется вам результат улучшения отношения на 2 пункта; какие факторы могли повлиять на такой эффект?
Похожие статьи
ИИ выявляет риск ADHD по медицинским картам
Учёные показали, что искусственный интеллект может по рутинным электронным медицинским картам предсказать риск развития ADHD у детей за годы до диагноза. Инструмент не ставит диагноз, а помогает выделить детей для раннего наблюдения и оценки.
Искусственный интеллект помогает диагностировать аутизм в Миссури
Учёные из University of Missouri проверили одобренное FDA устройство CanvasDx с искусственным интеллектом для помощи при диагностике аутизма. В исследовании из 80 детей устройство дало определённые результаты для 52% и не давало ложных диагнозов.