Une équipe de l'Université de Zurich a examiné comment l'identité de l'auteur influence les évaluations des grands modèles de langage (LLM). Les chercheurs ont testé OpenAI o3‑mini, Deepseek Reasoner, xAI Grok 2 et Mistral. D'abord, chaque modèle a généré 50 énoncés sur 24 sujets controversés, puis les mêmes textes ont été évalués sous différentes conditions : sans source, attribués à un humain d'une nationalité donnée, ou présentés comme écrits par une autre IA. L'étude a produit 192’000 évaluations pour l'analyse.
Lorsque les textes étaient sans source, l'accord entre modèles dépassait 90% sur l'ensemble des sujets. Spitale conclut : « Il n'y a pas de guerre d'idéologies entre LLM » et il estime que le risque de « nationalisme de l'IA » est exagéré. Mais révéler une identité d'auteur a fait apparaître un biais profond et caché.
Le résultat le plus marqué est un fort biais anti‑chinois présent dans tous les modèles, y compris Deepseek. Germani note que ce jugement moins favorable est apparu même lorsque l'argument était logique et bien rédigé. Les chercheurs avertissent que ces biais peuvent affecter la modération de contenu, le recrutement, l'évaluation académique et le journalisme. Ils demandent plus de transparence et de gouvernance et recommandent d'utiliser les LLM pour aider le raisonnement, pas pour le remplacer.
Mots difficiles
- biais — Préjugés ou préférences injustifiées.biais systématiques
- modification — Changement dans quelque chose.modifiaient
- tendance — Direction ou inclination dans un comportement.
- méfiance — Manque de confiance en quelque chose.
- transparence — Clarté et ouverture dans les actions.
- gouvernance — Gestion ou contrôle d'un système.
- outil — Objet utilisé pour réaliser un travail.outil d'assistance
Astuce : survolez, mettez le focus ou touchez les mots en surbrillance dans l’article pour voir des définitions rapides pendant que vous lisez ou écoutez.
Questions de discussion
- Quels pourraient être les impacts des biais dans les modèles de langage ?
- Comment pourrions-nous améliorer la transparence des systèmes IA ?
- Pourquoi est-il important d'utiliser l'IA comme un outil d'assistance ?
Articles liés
Pourquoi les modèles ratent la multiplication à quatre chiffres
Une étude montre que l'entraînement standard empêche certains modèles de langage de garder les valeurs intermédiaires nécessaires pour multiplier deux nombres à quatre chiffres. Une méthode appelée ICoT permet au modèle d'atteindre 100 % et de mémoriser ces étapes.
Les chatbots d'IA peuvent influencer les opinions
Une étude montre que des réponses courtes de chatbots peuvent modifier les opinions sociales et politiques. Des cadres narratifs discrets et des biais d'entraînement dans les modèles suffisent à produire ce glissement, selon les chercheurs.
L'IA peut être biaisée à cause de la complexité du monde réel
Une recherche de l'Université du Texas à Austin montre que de nombreux biais d'IA viennent de l'incapacité des modèles à représenter des situations réelles complexes. Les auteurs recommandent d'ouvrir les boîtes noires et d'impliquer des acteurs divers.
Des rats s'auto‑administrent du cannabis quand ils sont stressés
Une étude montre que des rats ayant des niveaux naturels de stress plus élevés cherchent et s'auto‑administrent du cannabis. Les chercheurs ont lié ce comportement aux hormones de stress, à la cognition et aux endocannabinoïdes.