Les outils d'intelligence artificielle se développent rapidement et touchent de nombreuses personnes. En avril, ChatGPT d'OpenAI a atteint un milliard d'utilisateurs actifs par semaine. En même temps, des rapports ont montré que des IA biaisées pouvaient causer des problèmes.
Des chercheurs de l'Université du Texas à Austin ont analysé de nombreux algorithmes signalés comme biaisés, issus d'un dépôt public d'incidents. Ils expliquent qu'une cause importante du biais est l'incapacité des modèles à représenter des situations réelles et complexes.
Ils donnent des exemples : estimer l'âge d'un os sur une radiographie sans méthode claire, traiter des opinions des réseaux sociaux comme des faits, ou remplacer des visites d'infirmières par des décisions automatiques qui ont privé des personnes handicapées d'aide pour manger et se laver. Les chercheurs recommandent d'ouvrir les boîtes noires et d'impliquer plus de personnes.
Mots difficiles
- intelligence artificielle — Programmes informatiques qui imitent la pensée humaine.
- utilisateur — Personne qui utilise un service ou un outil.utilisateurs
- biaisé — Qui favorise un résultat injuste ou incorrect.biaisées, biaisés
- algorithme — Suite d'instructions pour résoudre un problème.algorithmes
- représenter — Montrer ou modéliser une chose ou une situation.
- boîte noire — Système dont le fonctionnement interne est caché.boîtes noires
Astuce : survolez, mettez le focus ou touchez les mots en surbrillance dans l’article pour voir des définitions rapides pendant que vous lisez ou écoutez.
Questions de discussion
- As-tu déjà utilisé un outil d'intelligence artificielle ? Lequel ?
- Que penses-tu d'ouvrir les boîtes noires des modèles ?
- Pourquoi impliquer plus de personnes peut aider à réduire les biais ?
Articles liés
Quatre outils d'IA pour améliorer le dépistage de la tuberculose
Lors de la Union World Conference on Lung Health à Copenhague (18-21 November), des chercheurs ont présenté quatre outils d'intelligence artificielle pour détecter et suivre la tuberculose. Ces innovations visent des tests plus rapides, moins chers et portables.
Des traits cellulaires aident les palétuviers à tolérer l'eau salée
Une étude publiée dans Current Biology montre que les palétuviers ont des cellules plus petites et des parois plus épaisses. Ces traits aident à résister aux inondations d'eau salée et pourraient guider la conception de plantes tolérantes au sel.
Nouvelle caisse locale améliore la fermentation du cacao en Ouganda
À Kasawo, une caisse de fermentation fabriquée localement améliore la qualité du cacao et permet aux agriculteurs de mieux vendre et d’augmenter leurs revenus. Les chercheurs travaillent à améliorer le design et à étendre la distribution.
Liaisons quantiques : l’Université de Chicago étend la portée
Une équipe de l’Université de Chicago a théoriquement étendu la portée des liaisons quantiques jusqu’à 2 000 km en augmentant la cohérence d’atomes d’erbium. L’équipe utilise la MBE et va tester la connexion en laboratoire.