Les outils d'intelligence artificielle se développent rapidement et touchent de nombreuses personnes. En avril, ChatGPT d'OpenAI a atteint un milliard d'utilisateurs actifs par semaine. En même temps, des rapports ont montré que des IA biaisées pouvaient causer des problèmes.
Des chercheurs de l'Université du Texas à Austin ont analysé de nombreux algorithmes signalés comme biaisés, issus d'un dépôt public d'incidents. Ils expliquent qu'une cause importante du biais est l'incapacité des modèles à représenter des situations réelles et complexes.
Ils donnent des exemples : estimer l'âge d'un os sur une radiographie sans méthode claire, traiter des opinions des réseaux sociaux comme des faits, ou remplacer des visites d'infirmières par des décisions automatiques qui ont privé des personnes handicapées d'aide pour manger et se laver. Les chercheurs recommandent d'ouvrir les boîtes noires et d'impliquer plus de personnes.
Mots difficiles
- intelligence artificielle — Programmes informatiques qui imitent la pensée humaine.
- utilisateur — Personne qui utilise un service ou un outil.utilisateurs
- biaisé — Qui favorise un résultat injuste ou incorrect.biaisées, biaisés
- algorithme — Suite d'instructions pour résoudre un problème.algorithmes
- représenter — Montrer ou modéliser une chose ou une situation.
- boîte noire — Système dont le fonctionnement interne est caché.boîtes noires
Astuce : survolez, mettez le focus ou touchez les mots en surbrillance dans l’article pour voir des définitions rapides pendant que vous lisez ou écoutez.
Questions de discussion
- As-tu déjà utilisé un outil d'intelligence artificielle ? Lequel ?
- Que penses-tu d'ouvrir les boîtes noires des modèles ?
- Pourquoi impliquer plus de personnes peut aider à réduire les biais ?
Articles liés
L'heure du jour influence la chimiothérapie contre le glioblastome
Des chercheurs observent que l'heure d'administration du Temozolomide peut changer la réponse des tumeurs de glioblastome. L'activité d'une enzyme appelée MGMT varie au cours de la journée et cela affecte l'efficacité du traitement.
L'Afrique face à l'épidémie de Bundibugyo en 2026
Début mai 2026, des chercheurs ont identifié le Bundibugyo ebolavirus après un foyer en Ituri. Africa CDC et l’OMS ont mobilisé une réponse, des donateurs ont promis des fonds, mais les infrastructures de préparation restent insuffisantes.
Récifs coralliens : des bactéries pour de futurs médicaments
De 2016 à 2018, l’expédition Tara Pacific a étudié les récifs du Pacifique et reconstruit plus de 13 000 génomes microbiaux. Les chercheurs ont trouvé 3 700 bactéries nouvelles et des molécules utiles ; ils appellent à protéger les récifs.
Comment rendre les modèles de langage plus sûrs
Des chercheurs de North Carolina State University étudient l’alignement de sécurité des grands modèles de langage. Ils identifient un problème d’alignement superficiel et proposent de « geler » des neurones clés pour réduire les mauvaises réponses tout en conservant la performance.