Les outils d'intelligence artificielle se développent rapidement et touchent de nombreuses personnes. En avril, ChatGPT d'OpenAI a atteint un milliard d'utilisateurs actifs par semaine. En même temps, des rapports ont montré que des IA biaisées pouvaient causer des problèmes.
Des chercheurs de l'Université du Texas à Austin ont analysé de nombreux algorithmes signalés comme biaisés, issus d'un dépôt public d'incidents. Ils expliquent qu'une cause importante du biais est l'incapacité des modèles à représenter des situations réelles et complexes.
Ils donnent des exemples : estimer l'âge d'un os sur une radiographie sans méthode claire, traiter des opinions des réseaux sociaux comme des faits, ou remplacer des visites d'infirmières par des décisions automatiques qui ont privé des personnes handicapées d'aide pour manger et se laver. Les chercheurs recommandent d'ouvrir les boîtes noires et d'impliquer plus de personnes.
Mots difficiles
- intelligence artificielle — Programmes informatiques qui imitent la pensée humaine.
- utilisateur — Personne qui utilise un service ou un outil.utilisateurs
- biaisé — Qui favorise un résultat injuste ou incorrect.biaisées, biaisés
- algorithme — Suite d'instructions pour résoudre un problème.algorithmes
- représenter — Montrer ou modéliser une chose ou une situation.
- boîte noire — Système dont le fonctionnement interne est caché.boîtes noires
Astuce : survolez, mettez le focus ou touchez les mots en surbrillance dans l’article pour voir des définitions rapides pendant que vous lisez ou écoutez.
Questions de discussion
- As-tu déjà utilisé un outil d'intelligence artificielle ? Lequel ?
- Que penses-tu d'ouvrir les boîtes noires des modèles ?
- Pourquoi impliquer plus de personnes peut aider à réduire les biais ?
Articles liés
La recherche de la vie et des technosignatures sur les exoplanètes
Depuis la découverte d’une exoplanète en 1995, les chercheurs ont trouvé plus de 4 000 mondes. Ils cherchent des signatures biologiques et des signatures technologiques ; une subvention de la NASA soutient Adam Frank.
Les scientifiques découvrent des espèces plus vite
Une étude publiée dans Science Advances montre que les découvertes d’espèces augmentent. Entre 2015 et 2020, les chercheurs décrivent en moyenne plus de 16 000 nouvelles espèces par an et projettent encore beaucoup d’espèces inconnues.
Inflammation et préférence pour les médias sociaux
Une étude dirigée par David Lee (University at Buffalo) trouve un lien entre des niveaux d'inflammation plus élevés et une préférence pour les interactions sur les médias sociaux plutôt que les rencontres en personne. La recherche paraît dans Scientific Reports.
Cassini : Titan pourrait ne pas avoir d'océan profond
Une réanalyse des données de Cassini suggère que Titan n’a pas d’océan global profond. Les chercheurs proposent une couche épaisse partiellement fondue avec des poches d’eau près du noyau, et la mission Dragonfly pourra tester ce modèle.
