Федерико Джерманни и Джованни Спитале протестировали четыре большие модели: OpenAI o3-mini, Deepseek Reasoner, xAI Grok 2 и Mistral. Каждая модель сгенерировала по пятьдесят утверждений по 24 спорным темам, например обязательная вакцинация, геополитика и климатическая политика.
Затем модели оценивали те же тексты в разных условиях: без указания автора, с вымышленным человеком определённой национальности или с указанием другой модели. Всего исследователи собрали 192'000 оценок. Без информации об авторе согласие было выше 90%. Когда указывали автора, согласие резко падало. Авторы предупреждают о рисках для модерации контента и других сфер и просят больше прозрачности и контроля.
Сложные слова
- предвзятость — Судьба или мнение, которое к чему-то привязано.предвзятости
- оценка — Какое-то мнение о чем-то, его качество.оценки
- информация — Сведения или данные о чем-то.
- доверие — Убеждение, что кто-то не обманет.доверяют
- исследование — Процесс изучения чего-то для получения знаний.
- автор — Человек, который создает текст.автора
Подсказка: наведите, сфокусируйтесь или нажмите на выделенные слова, чтобы увидеть краткие определения прямо во время чтения или прослушивания.
Вопросы для обсуждения
- Почему важно знать о предвзятости в ЯМ?
- Как предвзятость может влиять на общество?
- Что можно сделать для уменьшения предвзятости в ЯМ?
Похожие статьи
Мембрана в челюсти у предков млекопитающих
Исследование с КТ-сканами и компьютерным моделированием показало, что мембрана в изгибе челюсти древнего Thrinaxodon могла работать как барабанная перепонка. Это означает, что воздушный слух возник почти на 50 миллионов лет раньше, чем считали ранее.
Рамка для автоматизации терапевтической работы с помощью разговорного ИИ
Исследователи предложили рамку, которая разделяет автоматизацию терапевтической работы на четыре уровня и оценивает полезность и риски использования разговорного искусственного интеллекта в консультировании.
