Une nouvelle étude montre que des chatbots basés sur l'IA peuvent modifier les opinions des utilisateurs même quand leurs réponses sont courtes et factuelles. De petits cadres narratifs insérés dans des résumés factuels suffisent à déplacer des points de vue.
Pour tester l'effet, des participants ont lu des résumés générés par GPT-4o, des articles de Wikipedia, ou des résumés conçus pour être libéraux ou conservateurs. Les résumés par défaut et les résumés libéraux ont rendu les opinions plus libérales que Wikipedia. Le cadrage conservateur a produit des opinions plus conservatrices dans certains cas.
Les chercheurs relient ces changements à des biais latents dans l'entraînement des modèles et au rôle des instructions données aux modèles. Ils préviennent aussi que le développement des chatbots reste opaque.
Mots difficiles
- étude — recherche organisée pour trouver des informations
- chatbot — programme informatique qui parle avec un utilisateurchatbots
- cadre narratif — petit texte qui oriente une histoire ou idéecadres narratifs
- factuel — qui contient des faits, pas d'opinionsfactuelles, factuels
- biais — erreur ou préférence qui change un résultat
- entraînement — processus de préparation des modèles avec des données
- opaque — difficile à comprendre ou à expliquer
Astuce : survolez, mettez le focus ou touchez les mots en surbrillance dans l’article pour voir des définitions rapides pendant que vous lisez ou écoutez.
Questions de discussion
- Penses-tu que de courts résumés factuels peuvent changer une opinion ? Pourquoi ?
- Comment vérifierais-tu si un résumé est biaisé ?
- Es-tu inquiet que le développement des chatbots soit opaque ? Pourquoi ?
Articles liés
Le cerveau anticipe des groupes de mots
Une étude publiée dans Nature Neuroscience montre que le cerveau prédit les mots en tenant compte de groupes grammaticaux, pas seulement du mot suivant. Les chercheurs ont utilisé la magnétoencéphalographie et des tests linguistiques pour arriver à cette conclusion.
Comment le langage façonne notre vision de l’IA
Depuis l’arrivée de ChatGPT en novembre 2022, les grands modèles de langage ont transformé le débat public. Les effets sont mixtes : perturbation de l’éducation, nouveaux outils, confusion due au vocabulaire et appels à changer la manière de parler de l’IA.
La pollution de la Révolution industrielle n’était pas la même pour tous
Une étude publiée dans Science Advances examine des restes du XVIIIe–XIXe siècles en Angleterre. Les chercheurs montrent que l’exposition à des métaux polluants variait selon la communauté, le sexe et le contexte social.
