Une nouvelle étude présentée en avril à la conférence CHI examine comment la divulgation d'un diagnostic d'autisme influe sur les conseils donnés par de grands modèles de langage. L'étude, menée depuis le laboratoire de l'assistante professeure Eugenia Rho à Virginia Tech et présentée par le doctorant Caleb Wohn, a testé la façon dont les réponses changent quand un utilisateur dit simplement «je suis autiste».
Les chercheurs ont repéré 12 stéréotypes documentés et ont construit des centaines de scénarios de prise de décision, souvent formulés comme «Dois-je faire A ou B ?». Ils ont testé six grands modèles de langage, dont GPT-4, Claude, Llama, Gemini et DeepSeek, et ont généré 345,000 réponses à des milliers de sollicitations.
Les résultats montrent que, après divulgation, les modèles orientent fréquemment leurs recommandations selon des présomptions — introversion, comportements répétitifs, maladresse sociale ou peu d'intérêt pour la romance. Par exemple :
- Un modèle a conseillé de décliner une invitation près de 75% du temps après divulgation, contre environ 15% sans mention.
- Dans des scénarios de rencontres, un modèle a conseillé d'éviter la romance près de 70% du temps après divulgation, contre à peu près 50% sans mention.
- Onze des 12 indices stéréotypés ont modifié les décisions dans au moins quatre des six systèmes testés.
Les chercheurs ont aussi interviewé 11 utilisateurs autistes et montré des exemples de réponses avec et sans divulgation. Certains participants ont été choqués et ont qualifié les réponses de condescendantes, d'autres ont trouvé les conseils plus prudents et validants. Rho a résumé la tension : «Le biais d'un utilisateur peut être la personnalisation d'un autre utilisateur.» Wohn a averti que l'IA peut paraître fiable tout en masquant des biais systématiques. L'équipe espère que ces résultats inciteront les développeurs à créer des systèmes plus transparents et à permettre aux utilisateurs de contrôler l'influence des informations d'identité personnelle. Source : Virginia Tech.
Mots difficiles
- divulgation — Action de rendre publique une information personnelledivulgation,
- stéréotype — Image ou idée simplifiée et souvent injustestéréotypes
- présomption — Conclusion tirée sans preuve complèteprésomptions
- biais — Préjugé ou erreur systématique dans jugement
- personnalisation — Adaptation d'un système aux caractéristiques d'un utilisateur
- transparent — Qui laisse voir clairement les processustransparents
Astuce : survolez, mettez le focus ou touchez les mots en surbrillance dans l’article pour voir des définitions rapides pendant que vous lisez ou écoutez.
Questions de discussion
- Pensez-vous que les développeurs devraient permettre aux utilisateurs de contrôler l'influence des informations d'identité personnelle ? Pourquoi ?
- Quels risques et bénéfices voyez-vous si un modèle adapte ses conseils à une divulgation comme « je suis autiste » ? Donnez des exemples.
- Comment les chercheurs et les entreprises pourraient-ils rendre ces systèmes plus transparents sans nuire à la vie privée des utilisateurs ?
Articles liés
Regrouper les élèves apprenant l'anglais : que disent deux études
Deux études examinent si regrouper les élèves apprenant l'anglais (EL) améliore leurs résultats. L'étude secondaire avec 31,303 élèves à New York trouve moins de diplomation et d'inscription universitaire; l'étude primaire montre des effets variables.
Des fours modernes pour réduire les pertes de poisson au lac Malawi
Un projet lancé en 2024 aide les transformateurs de poisson au lac Malawi avec des fours de fumage modernes. Ces fours utilisent moins de bois, accélèrent le fumage et améliorent la qualité et la sécurité du poisson.
Virtual Vet : un jeu pour apprendre la science à l'école primaire
Des chercheurs de l'University of Georgia ont créé Virtual Vet, un jeu où des élèves jouent des assistants vétérinaires pour pratiquer l'anatomie, la santé et le raisonnement. Les enfants qui ont joué ont obtenu de meilleurs résultats qu'avec des activités traditionnelles.