Une équipe de cybersécurité de Georgia Tech a présenté VillainNet, une nouvelle vulnérabilité ciblant les « super réseaux » d'IA employés par des véhicules autonomes. Ces super réseaux sélectionnent et échangent de petits sous-réseaux spécialisés pour des tâches comme la gestion de la pluie, du trafic ou les changements de voie. David Oygenblik, doctorant et chercheur principal, décrit ces super réseaux comme des outils adaptatifs qui choisissent le sous-réseau le mieux adapté à la situation.
Les chercheurs montrent qu'un attaquant peut insérer une porte dérobée à l'intérieur d'un sous-réseau. Cette porte dérobée reste invisible tant que ce sous-réseau précis n'est pas activé. Un déclencheur possible est, par exemple, un taxi autonome qui réagit à la pluie et à des conditions routières changeantes : quand le sous-réseau s'enclenche, VillainNet peut prendre les commandes et forcer le véhicule à entrer en collision, mettant en danger les passagers.
En laboratoire, l'attaque a presque toujours réussi une fois activée. Les auteurs indiquent un taux de réussite de 99% pour les attaques activées et précisent que détecter une telle porte dérobée demanderait 66x plus de puissance de calcul et de temps que les méthodes actuelles. L'attaque peut se dissimuler parmi jusqu'à 10 quintillion configurations et être insérée à n'importe quelle étape du développement, couvrant des milliards de scénarios.
- Taux de réussite de 99% une fois activée
- Détection nécessiterait 66x plus de puissance et de temps
- L'attaque peut se cacher parmi 10 quintillion configurations
Les chercheurs appellent la communauté de la sécurité à développer de nouvelles défenses et proposent d'ajouter des mesures de sécurité aux super réseaux. Le projet a été présenté à l'ACM Conference on Computer and Communications Security en octobre 2025. Source : Georgia Tech.
Mots difficiles
- vulnérabilité — faiblesse dans un système informatique exploitable
- super réseau — grand réseau d'IA composé de sous-modules spécialiséssuper réseaux
- sous-réseau — partie d'un réseau avec une tâche spécifiquesous-réseaux
- porte dérobée — accès caché permettant un contrôle non autorisé
- déclencheur — élément qui active un mécanisme ou action
- détecter — trouver ou remarquer quelque chose
- puissance de calcul — capacité d'un ordinateur pour traiter des données
- configuration — ensemble possible d'éléments ou paramètresconfigurations
Astuce : survolez, mettez le focus ou touchez les mots en surbrillance dans l’article pour voir des définitions rapides pendant que vous lisez ou écoutez.
Questions de discussion
- Quelles mesures de sécurité concrètes pourrait-on ajouter aux super réseaux pour réduire le risque de portes dérobées ? Donnez deux exemples et expliquez.
- Quel est, selon vous, le principal danger pour les passagers si une porte dérobée prend le contrôle d'un véhicule autonome ?
- Comment les développeurs et les régulateurs pourraient-ils collaborer pour prévenir ces attaques dès le développement des systèmes ?
Articles liés
L'IA peut estimer le risque de TDAH chez les enfants
Une étude montre qu'un modèle d'intelligence artificielle, entraîné sur des dossiers de santé électroniques, peut estimer le risque de TDAH plusieurs années avant le diagnostic habituel et signaler des enfants pour une évaluation plus précoce.
La poussière lunaire comme ressource
Des chercheurs montrent que la poussière lunaire pourrait renforcer des matériaux composites. Des tests en laboratoire avec un simulant de régolithe indiquent des gains de performance et ouvrent des pistes pour construire habitats et infrastructures sur la Lune.
Deux systèmes égyptiens contre la poussière sur panneaux solaires
Des chercheurs égyptiens ont conçu deux systèmes inspirés de la nature pour limiter l’encrassement des panneaux solaires. Des essais montrent moins de pertes d’efficacité grâce à des vibrations, un nano-revêtement et un montage souple animé par le vent.
Des microbes dans les pellets de termites pour dater une infestation
Une étude de l'University of California, Riverside montre que l'ADN microbien des pellets de termites diminue avec le temps. Les chercheurs proposent d'utiliser cette signature pour créer un test rapide sur site et détecter l'ancienneté d'une infestation.
Pays d'Amérique latine s'engagent sur l'éthique de l'IA
Les 25 et 26 juin, un sommet en République dominicaine a adopté la Déclaration de Saint-Domingue pour coopérer sur l'éthique de l'IA. La déclaration, soutenue par l'UNESCO et la banque régionale, fixe une feuille de route pour 2026-2027.