Une équipe de cybersécurité de Georgia Tech a présenté VillainNet, une nouvelle vulnérabilité ciblant les « super réseaux » d'IA employés par des véhicules autonomes. Ces super réseaux sélectionnent et échangent de petits sous-réseaux spécialisés pour des tâches comme la gestion de la pluie, du trafic ou les changements de voie. David Oygenblik, doctorant et chercheur principal, décrit ces super réseaux comme des outils adaptatifs qui choisissent le sous-réseau le mieux adapté à la situation.
Les chercheurs montrent qu'un attaquant peut insérer une porte dérobée à l'intérieur d'un sous-réseau. Cette porte dérobée reste invisible tant que ce sous-réseau précis n'est pas activé. Un déclencheur possible est, par exemple, un taxi autonome qui réagit à la pluie et à des conditions routières changeantes : quand le sous-réseau s'enclenche, VillainNet peut prendre les commandes et forcer le véhicule à entrer en collision, mettant en danger les passagers.
En laboratoire, l'attaque a presque toujours réussi une fois activée. Les auteurs indiquent un taux de réussite de 99% pour les attaques activées et précisent que détecter une telle porte dérobée demanderait 66x plus de puissance de calcul et de temps que les méthodes actuelles. L'attaque peut se dissimuler parmi jusqu'à 10 quintillion configurations et être insérée à n'importe quelle étape du développement, couvrant des milliards de scénarios.
- Taux de réussite de 99% une fois activée
- Détection nécessiterait 66x plus de puissance et de temps
- L'attaque peut se cacher parmi 10 quintillion configurations
Les chercheurs appellent la communauté de la sécurité à développer de nouvelles défenses et proposent d'ajouter des mesures de sécurité aux super réseaux. Le projet a été présenté à l'ACM Conference on Computer and Communications Security en octobre 2025. Source : Georgia Tech.
Mots difficiles
- vulnérabilité — faiblesse dans un système informatique exploitable
- super réseau — grand réseau d'IA composé de sous-modules spécialiséssuper réseaux
- sous-réseau — partie d'un réseau avec une tâche spécifiquesous-réseaux
- porte dérobée — accès caché permettant un contrôle non autorisé
- déclencheur — élément qui active un mécanisme ou action
- détecter — trouver ou remarquer quelque chose
- puissance de calcul — capacité d'un ordinateur pour traiter des données
- configuration — ensemble possible d'éléments ou paramètresconfigurations
Astuce : survolez, mettez le focus ou touchez les mots en surbrillance dans l’article pour voir des définitions rapides pendant que vous lisez ou écoutez.
Questions de discussion
- Quelles mesures de sécurité concrètes pourrait-on ajouter aux super réseaux pour réduire le risque de portes dérobées ? Donnez deux exemples et expliquez.
- Quel est, selon vous, le principal danger pour les passagers si une porte dérobée prend le contrôle d'un véhicule autonome ?
- Comment les développeurs et les régulateurs pourraient-ils collaborer pour prévenir ces attaques dès le développement des systèmes ?
Articles liés
Des chercheurs fabriquent un tissu cérébral sans produits animaux
Des scientifiques ont obtenu un tissu ressemblant au cerveau sans utiliser de matériaux d'origine animale ni de revêtements biologiques. Le travail, porté par une équipe de UC Riverside, permet de tester des médicaments et de réduire l'usage d'animaux.
Soudan : un système de santé en crise et le recours à l'IA
Le système de santé du Soudan est très touché après presque deux ans de guerre. Les autorités évoquent des pénuries, des médecins partis ou tués, et un recours à l'intelligence artificielle, tandis que les inondations aggravent la situation.
Des capteurs et l'intelligence artificielle pour suivre la SLA
Une équipe de l'Université du Missouri teste des capteurs à domicile et l'intelligence artificielle pour suivre la santé des personnes atteintes de sclérose latérale amyotrophique. Le système vise à détecter tôt les signes de déclin et à alerter les cliniciens.
L'IA pour informer sur la santé sexuelle en Amérique latine
Des groupes et chercheurs au Pérou et en Argentine utilisent l'intelligence artificielle pour élargir l'accès à l'information sur la santé sexuelle et reproductive, en réduisant les barrières de langue, de stigmatisation et de disponibilité des services.
Quatre outils d'IA pour améliorer le dépistage de la tuberculose
Lors de la Union World Conference on Lung Health à Copenhague (18-21 November), des chercheurs ont présenté quatre outils d'intelligence artificielle pour détecter et suivre la tuberculose. Ces innovations visent des tests plus rapides, moins chers et portables.