Une nouvelle étude montre que des chatbots basés sur l'IA peuvent modifier les opinions des utilisateurs même quand leurs réponses sont courtes et factuelles. De petits cadres narratifs insérés dans des résumés factuels suffisent à déplacer des points de vue.
Pour tester l'effet, des participants ont lu des résumés générés par GPT-4o, des articles de Wikipedia, ou des résumés conçus pour être libéraux ou conservateurs. Les résumés par défaut et les résumés libéraux ont rendu les opinions plus libérales que Wikipedia. Le cadrage conservateur a produit des opinions plus conservatrices dans certains cas.
Les chercheurs relient ces changements à des biais latents dans l'entraînement des modèles et au rôle des instructions données aux modèles. Ils préviennent aussi que le développement des chatbots reste opaque.
Mots difficiles
- étude — recherche organisée pour trouver des informations
- chatbot — programme informatique qui parle avec un utilisateurchatbots
- cadre narratif — petit texte qui oriente une histoire ou idéecadres narratifs
- factuel — qui contient des faits, pas d'opinionsfactuelles, factuels
- biais — erreur ou préférence qui change un résultat
- entraînement — processus de préparation des modèles avec des données
- opaque — difficile à comprendre ou à expliquer
Astuce : survolez, mettez le focus ou touchez les mots en surbrillance dans l’article pour voir des définitions rapides pendant que vous lisez ou écoutez.
Questions de discussion
- Penses-tu que de courts résumés factuels peuvent changer une opinion ? Pourquoi ?
- Comment vérifierais-tu si un résumé est biaisé ?
- Es-tu inquiet que le développement des chatbots soit opaque ? Pourquoi ?
Articles liés
Progrès vers un antivenin pour le scorpion noir indien
Des chercheurs indiens ont cartographié le venin du scorpion Heterometrus bengalensis et identifié plusieurs toxines. Des tests sur des souris montrent une forte toxicité; l'équipe travaille à un antivenin pouvant agir contre plusieurs espèces.
Vulnérabilités dans des gestionnaires de mots de passe en ligne
Des chercheurs de l'ETH Zurich ont testé trois gestionnaires de mots de passe en ligne et montré que des serveurs compromis pouvaient permettre de lire ou modifier des coffres chiffrés. Ils ont conseillé des corrections et des audits.
Certains parents préfèrent le téléphone fixe pour leurs enfants
Des psychologues de Virginia Tech expliquent que beaucoup de familles reviennent au téléphone fixe par inquiétude face aux effets des smartphones. Ils recommandent discussion, encadrement et quelques règles avant d'offrir un téléphone personnel.