Des chercheurs de Georgia Tech ont identifié VillainNet, une porte dérobée qui cible les « super réseaux » d'IA utilisés par de nombreux systèmes de conduite autonome. Les super réseaux fonctionnent en échangeant de petits sous-réseaux selon la tâche : pluie, trafic, changements de voie, etc. David Oygenblik, doctorant et chercheur principal du projet, a expliqué cette conception comme un « couteau suisse » de l'IA.
La porte dérobée reste inactive sauf quand un sous-réseau très spécifique est sélectionné. Dans ce cas, VillainNet s'active et peut permettre à un attaquant de prendre le contrôle du véhicule et de forcer une collision. Les expériences montrent que l'attaque réussit presque toujours une fois activée. Les chercheurs ajoutent que la détection de ce type de porte dérobée demanderait beaucoup plus de puissance et de temps que les méthodes actuelles.
Le projet avertit que la menace peut être insérée à n'importe quelle étape du développement et couvrir des milliards de scénarios. Les auteurs demandent de nouvelles défenses pour ces systèmes d'IA adaptatifs.
Mots difficiles
- porte dérobée — programme caché qui permet l'accès secret
- super réseau — grand modèle d'IA qui combine plusieurs réseauxsuper réseaux
- sous-réseau — petit composant d'un réseau pour une tâchesous-réseaux
- inactif — qui ne se déclenche pas et reste cachéinactive
- attaquant — personne ou programme qui attaque un système
- détection — action de trouver ou repérer un problème
- défense — mesures pour protéger un système contre attaquesdéfenses
Astuce : survolez, mettez le focus ou touchez les mots en surbrillance dans l’article pour voir des définitions rapides pendant que vous lisez ou écoutez.
Questions de discussion
- Que pensez-vous du fait que la menace peut être insérée à n'importe quelle étape du développement ?
- Quelles défenses simples proposeriez-vous pour ces systèmes d'IA adaptatifs ?
- Seriez-vous prêt à utiliser une voiture autonome en connaissant ce risque ? Pourquoi ou pourquoi pas ?
Articles liés
Élection au Bangladesh marquée par la désinformation IA
Lors de l’élection nationale tenue le 12 février après le soulèvement étudiant de juillet 2024, l’intelligence artificielle a servi à créer des images et des vidéos falsifiées. Une étude a recensé 72 cas de contenus manipulés qui ont circulé pendant la campagne.
Crise Bangladesh–Inde lors de la Coupe du monde T20 2026
Le Bangladesh a refusé de jouer des matches prévus en Inde, invoquant des craintes de sécurité et des tensions politiques après une demande du BCCI concernant Mustafizur Rahman. Une évaluation de l'ICC a évoqué des risques pour les supporters.
L'IA et le travail : ce que disent les historiens
Des historiens étudient comment les précédentes inventions ont changé le travail pour éclairer les inquiétudes liées à l'intelligence artificielle. Un message viral et des outils très rapides relancent le débat sur l'emploi, la réglementation et la société.
Images controversées de Luciano Huck au Parque Indígena do Xingu
Des images publiées sur Instagram montrent Luciano Huck aux côtés d'Autochtones au Parque Indígena do Xingu. Les propos demandant de « nettoyer votre culture » ont provoqué une réaction d'organisations indigènes et relancé le débat sur la technologie.