Les outils d'intelligence artificielle se développent vite et atteignent un large public : en avril, ChatGPT d'OpenAI a atteint un milliard d'utilisateurs actifs par semaine. Parallèlement, des rapports ont documenté des dommages liés à des systèmes biaisés, comme des traitements médicaux différents selon des caractéristiques démographiques et des outils de recrutement discriminants.
Une étude de l'Université du Texas à Austin, menée par Hüseyin Tanriverdi avec le doctorant John-Patrick Akinyemi (McCombs en IROM), a analysé un ensemble de 363 algorithmes identifiés comme biaisés, provenant du dépôt AI Algorithmic and Automation Incidents and Controversies. Les chercheurs ont comparé chaque cas problématique à des algorithmes similaires qui n'avaient pas été signalés, en examinant à la fois les modèles et les organisations utilisatrices.
Ils isolent trois sources majeures de biais. D'abord, l'absence d'une vérité de terrain bien établie augmente le risque d'erreur, comme lorsqu'on demande à un algorithme d'estimer l'âge d'un os sur une radiographie. Ensuite, la complexité du monde réel est souvent mal représentée : Tanriverdi cite l'exemple de l'Arkansas où des visites à domicile par des infirmières ont été remplacées par décisions automatisées, privant ainsi des personnes handicapées d'aide pour manger et se doucher. Enfin, le manque de participation de parties prenantes diverses conduit à des systèmes mal adaptés à tous les groupes.
Les auteurs concluent que réduire le biais exige plus que d'améliorer la précision : il faut « ouvrir les boîtes noires » pour intégrer la complexité du monde réel, des données variées et des vérités de terrain claires. « Les facteurs sur lesquels nous nous concentrons ont un effet direct sur l'équité des résultats », affirme Tanriverdi. La recherche est publiée dans MIS Quarterly (source : UT Austin).
Mots difficiles
- algorithme — suite d'instructions informatiques pour traiter des donnéesalgorithmes
- biais — erreur systématique qui fausse les résultats
- vérité de terrain — information réelle et fiable venant du terrain
- complexité — caractère avec beaucoup d'éléments et relations
- partie prenante — personne ou groupe concerné par un projetparties prenantes
- boîte noire — système dont le fonctionnement interne est cachéboîtes noires
- équité — traitement juste qui réduit les inégalités
- discriminant — qui traite différemment selon un groupediscriminants
Astuce : survolez, mettez le focus ou touchez les mots en surbrillance dans l’article pour voir des définitions rapides pendant que vous lisez ou écoutez.
Questions de discussion
- Que pensez-vous de la proposition d'« ouvrir les boîtes noires » des algorithmes ? Donnez des avantages et des risques.
- Comment pourrait-on impliquer des parties prenantes diverses lors du développement d'un outil d'IA ? Donnez des exemples concrets.
- Donnez des exemples de vérités de terrain qui aideraient un algorithme médical à éviter des décisions erronées.
Articles liés
À Ngogo, des chimpanzés élargissent leur territoire et ont plus de naissances
Des chercheurs ont étudié la communauté de chimpanzés de Ngogo (Ouganda). Après avoir tué des groupes voisins et pris du territoire, les naissances ont augmenté (15 → 37) et la mortalité des nourrissons a chuté (41% → 8%).
Croissance des centres de données en Indonésie et tensions sur l'eau
La hausse de l'intelligence artificielle a entraîné un fort développement des centres de données en Indonésie, avec 170 installations en avril 2026. Les besoins en eau pour le refroidissement posent des problèmes, notamment à Batam, où communautés et experts demandent un meilleur équilibre.
Des nanoflowers aident des cellules souches à donner des mitochondries
Des ingénieurs de Texas A&M ont utilisé des nanoparticules en forme de fleur pour doubler la production de mitochondries dans des cellules souches et transférer ces mitochondries à des cellules âgées ou endommagées, restaurant leur énergie sans modification génétique.
Les plus petits robots programmables au monde
Des chercheurs ont créé des robots microscopiques autonomes qui nagent, détectent leur environnement et fonctionnent pendant des mois. Ils sont alimentés par la lumière, coûtent environ un centime chacun et pourraient aider la médecine et la fabrication.
Un nouveau procédé FJH-ClO pour recycler les batteries lithium-ion
Des chercheurs de Rice University présentent FJH-ClO, une méthode sans acide pour extraire lithium, cobalt et graphite des batteries usagées. Le procédé utilise deux courts chauffages et des gaz contrôlés et a été prouvé au laboratoire.