En avril, l'étudiant en doctorat Caleb Wohn a présenté l'étude à la conférence CHI. L'équipe dirigée depuis le laboratoire de l'assistante professeure Eugenia Rho à Virginia Tech a testé comment les réponses évoluent lorsque les utilisateurs déclarent être autistes.
Les chercheurs ont identifié 12 stéréotypes bien documentés et créé des centaines de scénarios formulés comme «Dois-je faire A ou B ?». Ils ont examiné six grands modèles de langage et ont généré 345,000 réponses à des milliers de sollicitations.
Quand l'autisme était divulgué, les modèles orientaient souvent leurs recommandations selon des présomptions d'introversion, d'obsession ou de maladresse sociale. Dans plusieurs tests, les conseils changeaient fortement, et onze des 12 indices ont modifié les décisions dans plusieurs systèmes testés.
Les chercheurs ont aussi interviewé 11 utilisateurs autistes. Certains se sont sentis insultés, d'autres ont trouvé les conseils rassurants. Rho a évoqué la tension entre biais et personnalisation, et l'équipe demande plus de transparence et des outils de contrôle pour les utilisateurs.
Mots difficiles
- stéréotype — idée générale et simplifiée sur un groupestéréotypes
- scénario — situation décrite pour tester une réactionscénarios
- sollicitation — demande faite au modèle ou systèmesollicitations
- présomption — idée supposée sans preuve certaineprésomptions
- orienter — diriger ou conseiller dans une certaine directionorientaient
- personnalisation — adaptation d'un service aux besoins d'une personne
- transparence — action de rendre un système clair et compréhensible
Astuce : survolez, mettez le focus ou touchez les mots en surbrillance dans l’article pour voir des définitions rapides pendant que vous lisez ou écoutez.
Questions de discussion
- Si vous utilisiez un assistant en ligne, voudriez-vous des outils pour contrôler ses conseils ? Pourquoi ?
- Un modèle peut-il être personnalisé sans créer de biais ? Pourquoi ou pourquoi pas ?
- Quels outils de contrôle seraient utiles pour les utilisateurs autistes selon vous ?
Articles liés
Dec2 aide le cancer du pancréas à échapper au système immunitaire
Des chercheurs montrent que le gène Dec2 masque les cellules du cancer du pancréas et suit un rythme circadien. Ces résultats expliquent pourquoi l'heure des traitements peut influencer l'efficacité de l'immunothérapie et ouvrent des pistes thérapeutiques.
L'IA n'est pas neutre et touche les droits humains
Hija Kamran explique que les entreprises technologiques privilégient le profit et que l'IA amplifie des inégalités. Elle appelle à une approche fondée sur les droits humains et propose trois questions simples à poser sur chaque système.
La restriction calorique améliore la réponse du muscle à l'insuline chez des rats âgés
Des chercheurs ont donné 35% moins de nourriture à des rats âgés de 24 mois pendant huit semaines. La restriction calorique a modifié les protéines musculaires et augmenté la captation du glucose par l'insuline, avec des différences entre mâles et femelles.