Une étude montre que dire qu'on est autiste change les conseils donnés par des IA. Les chercheurs ont testé plusieurs grands modèles de langage avec des centaines de scénarios de décision.
Quand les utilisateurs disent qu'ils sont autistes, les modèles donnent souvent des recommandations basées sur des stéréotypes, par exemple éviter des invitations sociales ou la romance. Les changements arrivent même si l'utilisateur ne décrit pas de traits précis.
Les chercheurs ont aussi parlé avec des personnes autistes. Certaines ont été choquées, d'autres ont trouvé les conseils plus prudents et validants. L'équipe veut que les développeurs rendent les systèmes plus transparents et que les utilisateurs puissent contrôler ces effets.
Mots difficiles
- stéréotype — idée simple et souvent fausse sur un groupestéréotypes
- recommandation — conseil donné pour agir dans une situationrecommandations
- chercheur — personne qui fait des recherches scientifiqueschercheurs
- scénario — description d'une situation possible pour déciderscénarios
- transparent — clair, facile à comprendre ou voirtransparents
- contrôler — avoir le pouvoir de gérer ou vérifier quelque chose
Astuce : survolez, mettez le focus ou touchez les mots en surbrillance dans l’article pour voir des définitions rapides pendant que vous lisez ou écoutez.
Questions de discussion
- Que penseriez-vous si une IA vous donnait un conseil basé sur un stéréotype ?
- Pourquoi est-il important que les systèmes soient transparents selon le texte ?
- Aimeriez-vous pouvoir contrôler les effets des conseils d'une IA ? Pourquoi ?
Articles liés
Images controversées de Luciano Huck au Parque Indígena do Xingu
Des images publiées sur Instagram montrent Luciano Huck aux côtés d'Autochtones au Parque Indígena do Xingu. Les propos demandant de « nettoyer votre culture » ont provoqué une réaction d'organisations indigènes et relancé le débat sur la technologie.
Des microbes dans les pellets de termites pour dater une infestation
Une étude de l'University of California, Riverside montre que l'ADN microbien des pellets de termites diminue avec le temps. Les chercheurs proposent d'utiliser cette signature pour créer un test rapide sur site et détecter l'ancienneté d'une infestation.
Des graisses du lait infantile peuvent affecter le foie en développement
Une étude sur porcelets nouveau-nés a comparé deux formules qui diffèrent par le type de graisses. Les formules riches en acides gras à chaîne moyenne ont provoqué une accumulation de graisse dans le foie plus rapide.