Une nouvelle étude présentée en avril à la conférence CHI examine comment la divulgation d'un diagnostic d'autisme influe sur les conseils donnés par de grands modèles de langage. L'étude, menée depuis le laboratoire de l'assistante professeure Eugenia Rho à Virginia Tech et présentée par le doctorant Caleb Wohn, a testé la façon dont les réponses changent quand un utilisateur dit simplement «je suis autiste».
Les chercheurs ont repéré 12 stéréotypes documentés et ont construit des centaines de scénarios de prise de décision, souvent formulés comme «Dois-je faire A ou B ?». Ils ont testé six grands modèles de langage, dont GPT-4, Claude, Llama, Gemini et DeepSeek, et ont généré 345,000 réponses à des milliers de sollicitations.
Les résultats montrent que, après divulgation, les modèles orientent fréquemment leurs recommandations selon des présomptions — introversion, comportements répétitifs, maladresse sociale ou peu d'intérêt pour la romance. Par exemple :
- Un modèle a conseillé de décliner une invitation près de 75% du temps après divulgation, contre environ 15% sans mention.
- Dans des scénarios de rencontres, un modèle a conseillé d'éviter la romance près de 70% du temps après divulgation, contre à peu près 50% sans mention.
- Onze des 12 indices stéréotypés ont modifié les décisions dans au moins quatre des six systèmes testés.
Les chercheurs ont aussi interviewé 11 utilisateurs autistes et montré des exemples de réponses avec et sans divulgation. Certains participants ont été choqués et ont qualifié les réponses de condescendantes, d'autres ont trouvé les conseils plus prudents et validants. Rho a résumé la tension : «Le biais d'un utilisateur peut être la personnalisation d'un autre utilisateur.» Wohn a averti que l'IA peut paraître fiable tout en masquant des biais systématiques. L'équipe espère que ces résultats inciteront les développeurs à créer des systèmes plus transparents et à permettre aux utilisateurs de contrôler l'influence des informations d'identité personnelle. Source : Virginia Tech.
Mots difficiles
- divulgation — Action de rendre publique une information personnelledivulgation,
- stéréotype — Image ou idée simplifiée et souvent injustestéréotypes
- présomption — Conclusion tirée sans preuve complèteprésomptions
- biais — Préjugé ou erreur systématique dans jugement
- personnalisation — Adaptation d'un système aux caractéristiques d'un utilisateur
- transparent — Qui laisse voir clairement les processustransparents
Astuce : survolez, mettez le focus ou touchez les mots en surbrillance dans l’article pour voir des définitions rapides pendant que vous lisez ou écoutez.
Questions de discussion
- Pensez-vous que les développeurs devraient permettre aux utilisateurs de contrôler l'influence des informations d'identité personnelle ? Pourquoi ?
- Quels risques et bénéfices voyez-vous si un modèle adapte ses conseils à une divulgation comme « je suis autiste » ? Donnez des exemples.
- Comment les chercheurs et les entreprises pourraient-ils rendre ces systèmes plus transparents sans nuire à la vie privée des utilisateurs ?
Articles liés
L'IA pour informer sur la santé sexuelle en Amérique latine
Des groupes et chercheurs au Pérou et en Argentine utilisent l'intelligence artificielle pour élargir l'accès à l'information sur la santé sexuelle et reproductive, en réduisant les barrières de langue, de stigmatisation et de disponibilité des services.
Comment les lianes s’accrochent aux arbres
Une équipe internationale a décrit une formule expliquant comment les lianes cherchent et s’attachent aux hôtes. L’étude montre que l’élongation, le mouvement directionnel et des cellules spéciales permettent l’enroulement et l’attachement.
Étiquettes ultrasonores sans pile pour la maison intelligente
Des chercheurs de Georgia Tech ont créé de petites étiquettes métalliques sans pile qui émettent des impulsions ultrasonores uniques quand on les touche. Elles sont peu coûteuses, inaudibles pour l'oreille et détectables par un appareil proche.
L'activité du cerveau change selon le cycle quotidien
Des chercheurs ont combiné méthodes expérimentales et analyses informatiques pour suivre, cellule par cellule, l'activité du cerveau de souris. Ils montrent un déplacement d'activité des zones internes vers le cortex et veulent mieux comprendre la fatigue.