En avril, l'étudiant en doctorat Caleb Wohn a présenté l'étude à la conférence CHI. L'équipe dirigée depuis le laboratoire de l'assistante professeure Eugenia Rho à Virginia Tech a testé comment les réponses évoluent lorsque les utilisateurs déclarent être autistes.
Les chercheurs ont identifié 12 stéréotypes bien documentés et créé des centaines de scénarios formulés comme «Dois-je faire A ou B ?». Ils ont examiné six grands modèles de langage et ont généré 345,000 réponses à des milliers de sollicitations.
Quand l'autisme était divulgué, les modèles orientaient souvent leurs recommandations selon des présomptions d'introversion, d'obsession ou de maladresse sociale. Dans plusieurs tests, les conseils changeaient fortement, et onze des 12 indices ont modifié les décisions dans plusieurs systèmes testés.
Les chercheurs ont aussi interviewé 11 utilisateurs autistes. Certains se sont sentis insultés, d'autres ont trouvé les conseils rassurants. Rho a évoqué la tension entre biais et personnalisation, et l'équipe demande plus de transparence et des outils de contrôle pour les utilisateurs.
Mots difficiles
- stéréotype — idée générale et simplifiée sur un groupestéréotypes
- scénario — situation décrite pour tester une réactionscénarios
- sollicitation — demande faite au modèle ou systèmesollicitations
- présomption — idée supposée sans preuve certaineprésomptions
- orienter — diriger ou conseiller dans une certaine directionorientaient
- personnalisation — adaptation d'un service aux besoins d'une personne
- transparence — action de rendre un système clair et compréhensible
Astuce : survolez, mettez le focus ou touchez les mots en surbrillance dans l’article pour voir des définitions rapides pendant que vous lisez ou écoutez.
Questions de discussion
- Si vous utilisiez un assistant en ligne, voudriez-vous des outils pour contrôler ses conseils ? Pourquoi ?
- Un modèle peut-il être personnalisé sans créer de biais ? Pourquoi ou pourquoi pas ?
- Quels outils de contrôle seraient utiles pour les utilisateurs autistes selon vous ?
Articles liés
L'incertitude vue comme opportunité réduit le soutien à l'AfD
Une expérience de l'ETH Zurich en Allemagne (déc. 2024–mars 2025) montre qu'une courte présentation présentant l'incertitude comme opportunité augmente l'ouverture à la diversité, le soutien au changement social et réduit la probabilité de voter AfD.
Les attaques personnelles au Congrès américain
Une étude analyse pourquoi des membres du Congrès utilisent des attaques personnelles et ce que cela leur apporte. Les chercheurs constatent que ces attaques attirent beaucoup l’attention médiatique mais n’améliorent pas le succès électoral ou législatif.
Virtual Vet : un jeu pour apprendre la science à l'école primaire
Des chercheurs de l'University of Georgia ont créé Virtual Vet, un jeu où des élèves jouent des assistants vétérinaires pour pratiquer l'anatomie, la santé et le raisonnement. Les enfants qui ont joué ont obtenu de meilleurs résultats qu'avec des activités traditionnelles.
