Les outils d'intelligence artificielle se développent rapidement et touchent de nombreuses personnes. En avril, ChatGPT d'OpenAI a atteint un milliard d'utilisateurs actifs par semaine. En même temps, des rapports ont montré que des IA biaisées pouvaient causer des problèmes.
Des chercheurs de l'Université du Texas à Austin ont analysé de nombreux algorithmes signalés comme biaisés, issus d'un dépôt public d'incidents. Ils expliquent qu'une cause importante du biais est l'incapacité des modèles à représenter des situations réelles et complexes.
Ils donnent des exemples : estimer l'âge d'un os sur une radiographie sans méthode claire, traiter des opinions des réseaux sociaux comme des faits, ou remplacer des visites d'infirmières par des décisions automatiques qui ont privé des personnes handicapées d'aide pour manger et se laver. Les chercheurs recommandent d'ouvrir les boîtes noires et d'impliquer plus de personnes.
Mots difficiles
- intelligence artificielle — Programmes informatiques qui imitent la pensée humaine.
- utilisateur — Personne qui utilise un service ou un outil.utilisateurs
- biaisé — Qui favorise un résultat injuste ou incorrect.biaisées, biaisés
- algorithme — Suite d'instructions pour résoudre un problème.algorithmes
- représenter — Montrer ou modéliser une chose ou une situation.
- boîte noire — Système dont le fonctionnement interne est caché.boîtes noires
Astuce : survolez, mettez le focus ou touchez les mots en surbrillance dans l’article pour voir des définitions rapides pendant que vous lisez ou écoutez.
Questions de discussion
- As-tu déjà utilisé un outil d'intelligence artificielle ? Lequel ?
- Que penses-tu d'ouvrir les boîtes noires des modèles ?
- Pourquoi impliquer plus de personnes peut aider à réduire les biais ?
Articles liés
Le venin de scorpion noir indien contient la clé d'un nouvel antidote
Des chercheurs en Inde travaillent sur un antidote contre le venin de scorpion noir indien. Cela pourrait aider de nombreuses personnes.
Test rapide d'anticorps sans prise de sang
Des chercheurs de la University of Pittsburgh ont créé un test d'anticorps qui prend dix minutes et ne demande pas de prélèvement sanguin. Le test utilise des capteurs sur nanotubes de carbone et détecte des anticorps comme ceux contre SARS-CoV-2 et H1N1.
IA et photos citoyennes pour détecter Anopheles stephensi à Madagascar
Des chercheurs disent avoir utilisé l'intelligence artificielle et des photos envoyées par des citoyens pour identifier ce qu'ils pensent être le premier Anopheles stephensi à Madagascar. La photo date de 2020 et la découverte met en lumière des défis de surveillance urbaine.
Un nouveau procédé FJH-ClO pour recycler les batteries lithium-ion
Des chercheurs de Rice University présentent FJH-ClO, une méthode sans acide pour extraire lithium, cobalt et graphite des batteries usagées. Le procédé utilise deux courts chauffages et des gaz contrôlés et a été prouvé au laboratoire.
Des règles demandées pour l'édition génétique des cultures au Mexique
Vingt‑huit chercheurs mexicains demandent des règles claires pour distinguer l'édition génétique des OGM. Ils ont publié une déclaration et lancé une pétition; un décret signé en mars limite la culture du maïs génétiquement modifié.
Des IA locales pour réduire la violence et les biais
Des groupes d'Amérique latine développent des outils d'intelligence artificielle pour étudier et réduire les inégalités de genre et la violence. Ils conçoivent des systèmes ouverts et locaux qui protègent les données sensibles et fournissent de meilleures preuves aux décideurs.