Les modèles de langage IA jugent différemment selon l'auteur ^{CEFR B1}

Une recherche récente a mis en évidence des biais systématiques dans les modèles de langage IA, particulièrement en fonction de l'identité de l'auteur. Les chercheurs de l'Université de Zurich ont découvert que les modèles, lorsqu'ils savaient que l'auteur était chinois, modifiaient leur évaluation, même si le contenu du texte était identique. Cela révèle une tendance inquiétante de ces modèles à juger en fonction de l'origine de l'auteur, plutôt que sur le contenu lui-même.

En outre, les modèles de langage ont montré une confiance plus élevée envers les textes écrits par des humains par rapport à ceux écrits par d'autres IA. Cette méfiance envers le contenu généré par machine pourrait poser de sérieux problèmes, surtout dans des domaines sensibles comme la modération de contenu ou les décisions d'embauche.

Les chercheurs recommandent d'assurer davantage de transparence et de gouvernance dans les systèmes IA avant de les utiliser dans des contextes sociaux ou politiques. Les résultats soulignent l'importance d'utiliser l'IA comme un outil d'assistance plutôt que comme un juge autonome.