En avril, l'étudiant en doctorat Caleb Wohn a présenté l'étude à la conférence CHI. L'équipe dirigée depuis le laboratoire de l'assistante professeure Eugenia Rho à Virginia Tech a testé comment les réponses évoluent lorsque les utilisateurs déclarent être autistes.
Les chercheurs ont identifié 12 stéréotypes bien documentés et créé des centaines de scénarios formulés comme «Dois-je faire A ou B ?». Ils ont examiné six grands modèles de langage et ont généré 345,000 réponses à des milliers de sollicitations.
Quand l'autisme était divulgué, les modèles orientaient souvent leurs recommandations selon des présomptions d'introversion, d'obsession ou de maladresse sociale. Dans plusieurs tests, les conseils changeaient fortement, et onze des 12 indices ont modifié les décisions dans plusieurs systèmes testés.
Les chercheurs ont aussi interviewé 11 utilisateurs autistes. Certains se sont sentis insultés, d'autres ont trouvé les conseils rassurants. Rho a évoqué la tension entre biais et personnalisation, et l'équipe demande plus de transparence et des outils de contrôle pour les utilisateurs.
Mots difficiles
- stéréotype — idée générale et simplifiée sur un groupestéréotypes
- scénario — situation décrite pour tester une réactionscénarios
- sollicitation — demande faite au modèle ou systèmesollicitations
- présomption — idée supposée sans preuve certaineprésomptions
- orienter — diriger ou conseiller dans une certaine directionorientaient
- personnalisation — adaptation d'un service aux besoins d'une personne
- transparence — action de rendre un système clair et compréhensible
Astuce : survolez, mettez le focus ou touchez les mots en surbrillance dans l’article pour voir des définitions rapides pendant que vous lisez ou écoutez.
Questions de discussion
- Si vous utilisiez un assistant en ligne, voudriez-vous des outils pour contrôler ses conseils ? Pourquoi ?
- Un modèle peut-il être personnalisé sans créer de biais ? Pourquoi ou pourquoi pas ?
- Quels outils de contrôle seraient utiles pour les utilisateurs autistes selon vous ?
Articles liés
L'IA pour informer sur la santé sexuelle en Amérique latine
Des groupes et chercheurs au Pérou et en Argentine utilisent l'intelligence artificielle pour élargir l'accès à l'information sur la santé sexuelle et reproductive, en réduisant les barrières de langue, de stigmatisation et de disponibilité des services.
Comment les lianes s’accrochent aux arbres
Une équipe internationale a décrit une formule expliquant comment les lianes cherchent et s’attachent aux hôtes. L’étude montre que l’élongation, le mouvement directionnel et des cellules spéciales permettent l’enroulement et l’attachement.
Étiquettes ultrasonores sans pile pour la maison intelligente
Des chercheurs de Georgia Tech ont créé de petites étiquettes métalliques sans pile qui émettent des impulsions ultrasonores uniques quand on les touche. Elles sont peu coûteuses, inaudibles pour l'oreille et détectables par un appareil proche.
L'activité du cerveau change selon le cycle quotidien
Des chercheurs ont combiné méthodes expérimentales et analyses informatiques pour suivre, cellule par cellule, l'activité du cerveau de souris. Ils montrent un déplacement d'activité des zones internes vers le cortex et veulent mieux comprendre la fatigue.