Une nouvelle étude présentée en avril à la conférence CHI examine comment la divulgation d'un diagnostic d'autisme influe sur les conseils donnés par de grands modèles de langage. L'étude, menée depuis le laboratoire de l'assistante professeure Eugenia Rho à Virginia Tech et présentée par le doctorant Caleb Wohn, a testé la façon dont les réponses changent quand un utilisateur dit simplement «je suis autiste».
Les chercheurs ont repéré 12 stéréotypes documentés et ont construit des centaines de scénarios de prise de décision, souvent formulés comme «Dois-je faire A ou B ?». Ils ont testé six grands modèles de langage, dont GPT-4, Claude, Llama, Gemini et DeepSeek, et ont généré 345,000 réponses à des milliers de sollicitations.
Les résultats montrent que, après divulgation, les modèles orientent fréquemment leurs recommandations selon des présomptions — introversion, comportements répétitifs, maladresse sociale ou peu d'intérêt pour la romance. Par exemple :
- Un modèle a conseillé de décliner une invitation près de 75% du temps après divulgation, contre environ 15% sans mention.
- Dans des scénarios de rencontres, un modèle a conseillé d'éviter la romance près de 70% du temps après divulgation, contre à peu près 50% sans mention.
- Onze des 12 indices stéréotypés ont modifié les décisions dans au moins quatre des six systèmes testés.
Les chercheurs ont aussi interviewé 11 utilisateurs autistes et montré des exemples de réponses avec et sans divulgation. Certains participants ont été choqués et ont qualifié les réponses de condescendantes, d'autres ont trouvé les conseils plus prudents et validants. Rho a résumé la tension : «Le biais d'un utilisateur peut être la personnalisation d'un autre utilisateur.» Wohn a averti que l'IA peut paraître fiable tout en masquant des biais systématiques. L'équipe espère que ces résultats inciteront les développeurs à créer des systèmes plus transparents et à permettre aux utilisateurs de contrôler l'influence des informations d'identité personnelle. Source : Virginia Tech.
Mots difficiles
- divulgation — Action de rendre publique une information personnelledivulgation,
- stéréotype — Image ou idée simplifiée et souvent injustestéréotypes
- présomption — Conclusion tirée sans preuve complèteprésomptions
- biais — Préjugé ou erreur systématique dans jugement
- personnalisation — Adaptation d'un système aux caractéristiques d'un utilisateur
- transparent — Qui laisse voir clairement les processustransparents
Astuce : survolez, mettez le focus ou touchez les mots en surbrillance dans l’article pour voir des définitions rapides pendant que vous lisez ou écoutez.
Questions de discussion
- Pensez-vous que les développeurs devraient permettre aux utilisateurs de contrôler l'influence des informations d'identité personnelle ? Pourquoi ?
- Quels risques et bénéfices voyez-vous si un modèle adapte ses conseils à une divulgation comme « je suis autiste » ? Donnez des exemples.
- Comment les chercheurs et les entreprises pourraient-ils rendre ces systèmes plus transparents sans nuire à la vie privée des utilisateurs ?
Articles liés
Des ARN très anciens trouvés dans un mammouth
Des chercheurs ont isolé et séquencé de l'ARN provenant de restes de mammouth préservés dans le pergélisol sibérien depuis près de 40 000 ans. Ces molécules montrent quels gènes étaient actifs et offrent de nouvelles informations sur les espèces éteintes.
Les attaques personnelles au Congrès américain
Une étude analyse pourquoi des membres du Congrès utilisent des attaques personnelles et ce que cela leur apporte. Les chercheurs constatent que ces attaques attirent beaucoup l’attention médiatique mais n’améliorent pas le succès électoral ou législatif.
Traiter la dépression en ciblant l'inflammation
Une revue et une méta‑analyse montrent que, chez des personnes dépressives avec une inflammation élevée, des traitements anti‑inflammatoires ont réduit les symptômes et l'anhédonie. Les médicaments ne sont toutefois pas approuvés pour la dépression.
Indonésie : renforcement du contrôle des plateformes numériques
Le gouvernement indonésien augmente la régulation des grandes plateformes. La ministre Meutya Hafid a visité le bureau de Meta et les règles comprennent des enregistrements, des retraits rapides et des sanctions, mais elles suscitent des critiques.
