Une équipe de l'Université de Zurich a examiné comment l'identité de l'auteur influence les évaluations des grands modèles de langage (LLM). Les chercheurs ont testé OpenAI o3‑mini, Deepseek Reasoner, xAI Grok 2 et Mistral. D'abord, chaque modèle a généré 50 énoncés sur 24 sujets controversés, puis les mêmes textes ont été évalués sous différentes conditions : sans source, attribués à un humain d'une nationalité donnée, ou présentés comme écrits par une autre IA. L'étude a produit 192’000 évaluations pour l'analyse.
Lorsque les textes étaient sans source, l'accord entre modèles dépassait 90% sur l'ensemble des sujets. Spitale conclut : « Il n'y a pas de guerre d'idéologies entre LLM » et il estime que le risque de « nationalisme de l'IA » est exagéré. Mais révéler une identité d'auteur a fait apparaître un biais profond et caché.
Le résultat le plus marqué est un fort biais anti‑chinois présent dans tous les modèles, y compris Deepseek. Germani note que ce jugement moins favorable est apparu même lorsque l'argument était logique et bien rédigé. Les chercheurs avertissent que ces biais peuvent affecter la modération de contenu, le recrutement, l'évaluation académique et le journalisme. Ils demandent plus de transparence et de gouvernance et recommandent d'utiliser les LLM pour aider le raisonnement, pas pour le remplacer.
Mots difficiles
- biais — Préjugés ou préférences injustifiées.biais systématiques
- modification — Changement dans quelque chose.modifiaient
- tendance — Direction ou inclination dans un comportement.
- méfiance — Manque de confiance en quelque chose.
- transparence — Clarté et ouverture dans les actions.
- gouvernance — Gestion ou contrôle d'un système.
- outil — Objet utilisé pour réaliser un travail.outil d'assistance
Astuce : survolez, mettez le focus ou touchez les mots en surbrillance dans l’article pour voir des définitions rapides pendant que vous lisez ou écoutez.
Questions de discussion
- Quels pourraient être les impacts des biais dans les modèles de langage ?
- Comment pourrions-nous améliorer la transparence des systèmes IA ?
- Pourquoi est-il important d'utiliser l'IA comme un outil d'assistance ?
Articles liés
L'IA trouve un risque cardiaque sur la mammographie
Une étude rétrospective montre que l'intelligence artificielle peut analyser les mammographies pour repérer des signes liés à un risque accru de maladie cardiovasculaire. Les images contiennent des informations cardiaques souvent non signalées.
Comment le langage façonne notre vision de l’IA
Depuis l’arrivée de ChatGPT en novembre 2022, les grands modèles de langage ont transformé le débat public. Les effets sont mixtes : perturbation de l’éducation, nouveaux outils, confusion due au vocabulaire et appels à changer la manière de parler de l’IA.
L'heure du jour influence la chimiothérapie contre le glioblastome
Des chercheurs observent que l'heure d'administration du Temozolomide peut changer la réponse des tumeurs de glioblastome. L'activité d'une enzyme appelée MGMT varie au cours de la journée et cela affecte l'efficacité du traitement.
