Les outils d'IA se répandent et des études ont montré des conséquences graves : des traitements médicaux différents selon le profil des patients et des outils de recrutement qui discriminent certaines personnes. Ces cas ont attiré l'attention des chercheurs.
Une équipe de l'Université du Texas à Austin, dirigée par Hüseyin Tanriverdi avec John-Patrick Akinyemi, a étudié 363 algorithmes identifiés comme biaisés, issus d'un dépôt nommé AI Algorithmic and Automation Incidents and Controversies. Les chercheurs ont comparé chaque algorithme problématique à un algorithme similaire non signalé et ont examiné aussi les organisations utilisatrices.
Ils identifient plusieurs facteurs : l'absence d'une vérité de terrain claire (par exemple pour estimer l'âge d'un os sur une radiographie), la simplification excessive de situations réelles (cas de l'Arkansas où des visites à domicile ont été remplacées par des décisions automatisées, privant des personnes handicapées d'aide pour manger et se doucher) et le manque de participation de groupes divers lors de la conception. Les auteurs concluent qu'il faut plus que des gains de précision : ouvrir les boîtes noires et prendre en compte la complexité, des entrées diverses et des vérités de terrain claires. La recherche est publiée dans MIS Quarterly.
Mots difficiles
- algorithme — suite d'instructions pour prendre des décisionsalgorithmes
- biaisé — qui favorise ou défavorise certains casbiaisés
- discriminer — traiter différemment et injustement des personnesdiscriminent
- vérité de terrain — mesure ou référence claire pour vérifier résultatsvérités de terrain
- simplification — réduction excessive de la complexité d'une situation
- boîte noire — système dont le fonctionnement interne est cachéboîtes noires
- conception — processus de création ou de développement d'un produit
Astuce : survolez, mettez le focus ou touchez les mots en surbrillance dans l’article pour voir des définitions rapides pendant que vous lisez ou écoutez.
Questions de discussion
- Pensez-vous que les entreprises devraient ouvrir les boîtes noires des algorithmes ? Pourquoi ?
- Comment la participation de groupes divers peut-elle améliorer la conception d'un outil d'IA ?
- Avez-vous déjà vu un service automatisé qui semblait injuste ? Que feriez-vous pour l'améliorer ?
Articles liés
Le venin de scorpion noir indien contient la clé d'un nouvel antidote
Des chercheurs en Inde travaillent sur un antidote contre le venin de scorpion noir indien. Cela pourrait aider de nombreuses personnes.
Test rapide d'anticorps sans prise de sang
Des chercheurs de la University of Pittsburgh ont créé un test d'anticorps qui prend dix minutes et ne demande pas de prélèvement sanguin. Le test utilise des capteurs sur nanotubes de carbone et détecte des anticorps comme ceux contre SARS-CoV-2 et H1N1.
IA et photos citoyennes pour détecter Anopheles stephensi à Madagascar
Des chercheurs disent avoir utilisé l'intelligence artificielle et des photos envoyées par des citoyens pour identifier ce qu'ils pensent être le premier Anopheles stephensi à Madagascar. La photo date de 2020 et la découverte met en lumière des défis de surveillance urbaine.
Un nouveau procédé FJH-ClO pour recycler les batteries lithium-ion
Des chercheurs de Rice University présentent FJH-ClO, une méthode sans acide pour extraire lithium, cobalt et graphite des batteries usagées. Le procédé utilise deux courts chauffages et des gaz contrôlés et a été prouvé au laboratoire.
Des règles demandées pour l'édition génétique des cultures au Mexique
Vingt‑huit chercheurs mexicains demandent des règles claires pour distinguer l'édition génétique des OGM. Ils ont publié une déclaration et lancé une pétition; un décret signé en mars limite la culture du maïs génétiquement modifié.
Des IA locales pour réduire la violence et les biais
Des groupes d'Amérique latine développent des outils d'intelligence artificielle pour étudier et réduire les inégalités de genre et la violence. Ils conçoivent des systèmes ouverts et locaux qui protègent les données sensibles et fournissent de meilleures preuves aux décideurs.