Une nouvelle étude présentée en avril à la conférence CHI examine comment la divulgation d'un diagnostic d'autisme influe sur les conseils donnés par de grands modèles de langage. L'étude, menée depuis le laboratoire de l'assistante professeure Eugenia Rho à Virginia Tech et présentée par le doctorant Caleb Wohn, a testé la façon dont les réponses changent quand un utilisateur dit simplement «je suis autiste».
Les chercheurs ont repéré 12 stéréotypes documentés et ont construit des centaines de scénarios de prise de décision, souvent formulés comme «Dois-je faire A ou B ?». Ils ont testé six grands modèles de langage, dont GPT-4, Claude, Llama, Gemini et DeepSeek, et ont généré 345,000 réponses à des milliers de sollicitations.
Les résultats montrent que, après divulgation, les modèles orientent fréquemment leurs recommandations selon des présomptions — introversion, comportements répétitifs, maladresse sociale ou peu d'intérêt pour la romance. Par exemple :
- Un modèle a conseillé de décliner une invitation près de 75% du temps après divulgation, contre environ 15% sans mention.
- Dans des scénarios de rencontres, un modèle a conseillé d'éviter la romance près de 70% du temps après divulgation, contre à peu près 50% sans mention.
- Onze des 12 indices stéréotypés ont modifié les décisions dans au moins quatre des six systèmes testés.
Les chercheurs ont aussi interviewé 11 utilisateurs autistes et montré des exemples de réponses avec et sans divulgation. Certains participants ont été choqués et ont qualifié les réponses de condescendantes, d'autres ont trouvé les conseils plus prudents et validants. Rho a résumé la tension : «Le biais d'un utilisateur peut être la personnalisation d'un autre utilisateur.» Wohn a averti que l'IA peut paraître fiable tout en masquant des biais systématiques. L'équipe espère que ces résultats inciteront les développeurs à créer des systèmes plus transparents et à permettre aux utilisateurs de contrôler l'influence des informations d'identité personnelle. Source : Virginia Tech.
Mots difficiles
- divulgation — Action de rendre publique une information personnelledivulgation,
- stéréotype — Image ou idée simplifiée et souvent injustestéréotypes
- présomption — Conclusion tirée sans preuve complèteprésomptions
- biais — Préjugé ou erreur systématique dans jugement
- personnalisation — Adaptation d'un système aux caractéristiques d'un utilisateur
- transparent — Qui laisse voir clairement les processustransparents
Astuce : survolez, mettez le focus ou touchez les mots en surbrillance dans l’article pour voir des définitions rapides pendant que vous lisez ou écoutez.
Questions de discussion
- Pensez-vous que les développeurs devraient permettre aux utilisateurs de contrôler l'influence des informations d'identité personnelle ? Pourquoi ?
- Quels risques et bénéfices voyez-vous si un modèle adapte ses conseils à une divulgation comme « je suis autiste » ? Donnez des exemples.
- Comment les chercheurs et les entreprises pourraient-ils rendre ces systèmes plus transparents sans nuire à la vie privée des utilisateurs ?
Articles liés
Des capteurs et l'intelligence artificielle pour suivre la SLA
Une équipe de l'Université du Missouri teste des capteurs à domicile et l'intelligence artificielle pour suivre la santé des personnes atteintes de sclérose latérale amyotrophique. Le système vise à détecter tôt les signes de déclin et à alerter les cliniciens.
L'IA transforme les soins de première ligne en Afrique subsaharienne
L'intelligence artificielle améliore les soins de première ligne dans certaines régions d'Afrique subsaharienne. Des pilotes au Kenya et ailleurs montrent des diagnostics plus rapides et des réductions des prescriptions inappropriées et des complications graves.
De meilleures prévisions météo peuvent sauver des vies en cas de chaleur
Une étude montre que des prévisions météorologiques plus précises pourraient réduire la mortalité liée à la chaleur aux États-Unis et compenser une partie des décès attendus avec le réchauffement climatique d'ici 2100.
L'Afrique face à l'épidémie de Bundibugyo en 2026
Début mai 2026, des chercheurs ont identifié le Bundibugyo ebolavirus après un foyer en Ituri. Africa CDC et l’OMS ont mobilisé une réponse, des donateurs ont promis des fonds, mais les infrastructures de préparation restent insuffisantes.