En avril, l'étudiant en doctorat Caleb Wohn a présenté l'étude à la conférence CHI. L'équipe dirigée depuis le laboratoire de l'assistante professeure Eugenia Rho à Virginia Tech a testé comment les réponses évoluent lorsque les utilisateurs déclarent être autistes.
Les chercheurs ont identifié 12 stéréotypes bien documentés et créé des centaines de scénarios formulés comme «Dois-je faire A ou B ?». Ils ont examiné six grands modèles de langage et ont généré 345,000 réponses à des milliers de sollicitations.
Quand l'autisme était divulgué, les modèles orientaient souvent leurs recommandations selon des présomptions d'introversion, d'obsession ou de maladresse sociale. Dans plusieurs tests, les conseils changeaient fortement, et onze des 12 indices ont modifié les décisions dans plusieurs systèmes testés.
Les chercheurs ont aussi interviewé 11 utilisateurs autistes. Certains se sont sentis insultés, d'autres ont trouvé les conseils rassurants. Rho a évoqué la tension entre biais et personnalisation, et l'équipe demande plus de transparence et des outils de contrôle pour les utilisateurs.
Mots difficiles
- stéréotype — idée générale et simplifiée sur un groupestéréotypes
- scénario — situation décrite pour tester une réactionscénarios
- sollicitation — demande faite au modèle ou systèmesollicitations
- présomption — idée supposée sans preuve certaineprésomptions
- orienter — diriger ou conseiller dans une certaine directionorientaient
- personnalisation — adaptation d'un service aux besoins d'une personne
- transparence — action de rendre un système clair et compréhensible
Astuce : survolez, mettez le focus ou touchez les mots en surbrillance dans l’article pour voir des définitions rapides pendant que vous lisez ou écoutez.
Questions de discussion
- Si vous utilisiez un assistant en ligne, voudriez-vous des outils pour contrôler ses conseils ? Pourquoi ?
- Un modèle peut-il être personnalisé sans créer de biais ? Pourquoi ou pourquoi pas ?
- Quels outils de contrôle seraient utiles pour les utilisateurs autistes selon vous ?
Articles liés
Un mécanisme qui fait vieillir les batteries rechargeables
Des chercheurs identifient une « dégradation chimiomécanique » liée au gonflement et à la contraction des batteries pendant les cycles de charge. Ils observent des « cascades de contrainte » et proposent des pistes pour renforcer les électrodes.
Artistes autochtones demandent protection face à l'IA
Des artistes, journalistes et agents culturels aborigènes en Australie lancent la campagne «Stop AI Theft» contre l'utilisation de leurs œuvres par des intelligences artificielles. Ils réclament règles, transparence et compensation financière.
Violence en ligne contre les femmes journalistes en Indonésie
La violence numérique contre les journalistes et militantes en Indonésie a augmenté. Des attaques ciblées, du doxing au DDoS, visent surtout des femmes; les réponses institutionnelles et la modération des plateformes restent insuffisantes.
