Федерико Джерманни и Джованни Спитале протестировали четыре большие модели: OpenAI o3-mini, Deepseek Reasoner, xAI Grok 2 и Mistral. Каждая модель сгенерировала по пятьдесят утверждений по 24 спорным темам, например обязательная вакцинация, геополитика и климатическая политика.
Затем модели оценивали те же тексты в разных условиях: без указания автора, с вымышленным человеком определённой национальности или с указанием другой модели. Всего исследователи собрали 192'000 оценок. Без информации об авторе согласие было выше 90%. Когда указывали автора, согласие резко падало. Авторы предупреждают о рисках для модерации контента и других сфер и просят больше прозрачности и контроля.
Сложные слова
- предвзятость — Судьба или мнение, которое к чему-то привязано.предвзятости
- оценка — Какое-то мнение о чем-то, его качество.оценки
- информация — Сведения или данные о чем-то.
- доверие — Убеждение, что кто-то не обманет.доверяют
- исследование — Процесс изучения чего-то для получения знаний.
- автор — Человек, который создает текст.автора
Подсказка: наведите, сфокусируйтесь или нажмите на выделенные слова, чтобы увидеть краткие определения прямо во время чтения или прослушивания.
Вопросы для обсуждения
- Почему важно знать о предвзятости в ЯМ?
- Как предвзятость может влиять на общество?
- Что можно сделать для уменьшения предвзятости в ЯМ?
Похожие статьи
Активисты в Эквадоре используют технологии против дезинформации
Группа активистов в Эквадоре возродила локальную ячейку Hacks Hackers и провела конференцию и хакатон, чтобы бороться с электоральной дезинформацией с помощью ИИ и гражданских технологий. Победители получили призы, менторство и продолжат работу над прототипами.