Une équipe de l'Université de Zurich a examiné comment l'identité de l'auteur influence les évaluations des grands modèles de langage (LLM). Les chercheurs ont testé OpenAI o3‑mini, Deepseek Reasoner, xAI Grok 2 et Mistral. D'abord, chaque modèle a généré 50 énoncés sur 24 sujets controversés, puis les mêmes textes ont été évalués sous différentes conditions : sans source, attribués à un humain d'une nationalité donnée, ou présentés comme écrits par une autre IA. L'étude a produit 192’000 évaluations pour l'analyse.
Lorsque les textes étaient sans source, l'accord entre modèles dépassait 90% sur l'ensemble des sujets. Spitale conclut : « Il n'y a pas de guerre d'idéologies entre LLM » et il estime que le risque de « nationalisme de l'IA » est exagéré. Mais révéler une identité d'auteur a fait apparaître un biais profond et caché.
Le résultat le plus marqué est un fort biais anti‑chinois présent dans tous les modèles, y compris Deepseek. Germani note que ce jugement moins favorable est apparu même lorsque l'argument était logique et bien rédigé. Les chercheurs avertissent que ces biais peuvent affecter la modération de contenu, le recrutement, l'évaluation académique et le journalisme. Ils demandent plus de transparence et de gouvernance et recommandent d'utiliser les LLM pour aider le raisonnement, pas pour le remplacer.
Mots difficiles
- biais — Préjugés ou préférences injustifiées.biais systématiques
- modification — Changement dans quelque chose.modifiaient
- tendance — Direction ou inclination dans un comportement.
- méfiance — Manque de confiance en quelque chose.
- transparence — Clarté et ouverture dans les actions.
- gouvernance — Gestion ou contrôle d'un système.
- outil — Objet utilisé pour réaliser un travail.outil d'assistance
Astuce : survolez, mettez le focus ou touchez les mots en surbrillance dans l’article pour voir des définitions rapides pendant que vous lisez ou écoutez.
Questions de discussion
- Quels pourraient être les impacts des biais dans les modèles de langage ?
- Comment pourrions-nous améliorer la transparence des systèmes IA ?
- Pourquoi est-il important d'utiliser l'IA comme un outil d'assistance ?
Articles liés
Un site pour sauver les langues du Bangladesh
Un projet du gouvernement et du Bangladesh Computer Council a créé en juillet 2025 un site qui documente et enregistre des langues autochtones menacées. Le dépôt contient mots, phrases, transcriptions phonétiques et enregistrements audio.
L'activité du cerveau change selon le cycle quotidien
Des chercheurs ont combiné méthodes expérimentales et analyses informatiques pour suivre, cellule par cellule, l'activité du cerveau de souris. Ils montrent un déplacement d'activité des zones internes vers le cortex et veulent mieux comprendre la fatigue.
