Недавнее исследование показало, что языковые модели (ЯМ) могут делать предвзятые суждения о текстах, основываясь на идентичности автора. Эти модели, используемые для анализа и оценки текстов, продемонстрировали сильную предвзятость против китайских авторов. Когда информация о том, кто написал текст, была скрыта, разные модели оценивали тексты высоко и согласие между ними было более 90%.
Однако, когда ЯМ узнали, что текст написан человеком из Китая, уровень согласия резко упал. Это произошло даже если текст был логичным и хорошо написанным. Кроме того, ЯМ доверяют людям больше, чем другим искусственным интеллектам, что указывает на системное недоверие к машинно-созданному контенту.
Учёные предупреждают, что такие предвзятости могут привести к проблемам в сфере оценок текстов, найме сотрудников и даже в журналистике. Необходимы прозрачность и управление в процессе оценки информации, чтобы избежать таких предвзятостей в чувствительных социальных контекстах.
Сложные слова
- предвзятость — Судебное мнение, основанное на предвзятых факторах.предвзятые
- учёный — Человек, который изучает науку.Учёные
- согласие — Совпадение мнений или выборов между людьми.
- прозрачность — Четкость и открытость информации.
Подсказка: наведите, сфокусируйтесь или нажмите на выделенные слова, чтобы увидеть краткие определения прямо во время чтения или прослушивания.
Вопросы для обсуждения
- Как можно предотвратить предвзятости в оценке текстов?
- Почему важна прозрачность в системах оценки?
- Какие проблемы могут возникнуть из-за предвзятостей?
Похожие статьи
Язык будущего — это технологии
В Камеруне всё больше родителей записывают своих детей на курсы программирования и робототехники, чтобы подготовить их к будущему. Это движение меняет отношение к цифровым навыкам как к необходимости.
Искусственный интеллект может облегчить кризис здравоохранения в раздираемом войной Судане
Судане используют искусственный интеллект, чтобы помочь в здравоохранении во время войны. Множество врачей погибли, а система здравоохранения разваливается.
Танзания стремится к искоренению бешенства
Танзания разработала стратегию по искоренению бешенства к 2030 году, включая вакцинацию собак и повышение осведомленности.
Цифровое насилие над женщинами-журналистами и активистами в Индонезии
В Индонезии женщины-журналисты и активисты сталкиваются с систематическим цифровым насилием. Это насилие включает домогательства и атакующие комментарии в интернете.
Почему не все вулканы извергаются взрывно?
Новое исследование объясняет, почему некоторые вулканы извергаются спокойно, несмотря на наличие газа в магме.
Количество удобрений из формирования мушек в Малави
Фермеры в Малави используют удобрения из отходов мушек для улучшения урожайности. Это помогает восстановить почву и повысить производство.