Onderzoekers van Georgia Tech presenteerden een nieuw aanvalsscenario, VillainNet, dat zich inzet tegen zogenaamde supernetwerken in autonome voertuigen. Supernetwerken selecteren kleine subnetwerken naar gelang rijomstandigheden, en daarin kan een aanvaller een verborgen achterdeur verbergen die alleen actief wordt als juist dat subnetwerk gekozen wordt. David Oygenblik, promovendus en hoofdonderzoeker, vergelijkt supernetwerken met "het Zwitserse zakmes van AI": ze wisselen hulpmiddelen in en uit naargelang de taak.
In experimenten bleek dat een VillainNet-aanval vrijwel zeker slaagt zodra zij is geactiveerd; de onderzoekers rapporteren een 99% succespercentage voor geactiveerde aanvallen. Detectie is moeilijk: het onderzoek noemt dat detectie veel meer rekenkracht en tijd vergt (ongeveer 66x) en dat de aanval zich kan verstoppen tussen als wel 10 quintiljoen mogelijke configuraties. Daardoor blijft de achterdeur onzichtbaar binnen het volledige AI-systeem.
Het team waarschuwt dat de dreiging op elk ontwikkelingsstadium kan worden ingebracht en miljoenen tot miljarden scenario's kan bestrijken. Als reactie roepen de onderzoekers de beveiligingsgemeenschap op tot nieuwe verdedigingen en stellen ze voor om specifieke beveiligingsmaatregelen aan supernetwerken toe te voegen. Het project werd gepresenteerd op de ACM Conference on Computer and Communications Security (CCS) in oktober 2025.
- 99% succes bij geactiveerde aanvallen
- Detectie vereist ~66x meer rekenkracht en tijd
- Kan zich verbergen tussen ~10 quintiljoen configuraties
Moeilijke woorden
- supernetwerk — AI-model dat meerdere subnetwerken combineertsupernetwerken
- subnetwerk — klein onderdeel van een groter netwerksubnetwerken
- achterdeur — verborgen toegang tot een computersysteem
- detectie — proces om problemen of aanvallen te ontdekken
- configuratie — manier waarop onderdelen zijn ingesteldconfiguraties
- beveiligingsgemeenschap — groep deskundigen die veiligheid onderzoekt
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Welke gevolgen kan een onopgemerkte achterdeur in autonome voertuigen hebben voor bestuurders en het publiek? Geef concrete voorbeelden.
- Het artikel noemt dat detectie ongeveer 66x meer rekenkracht en tijd vergt. Welke praktische problemen kan dat opleveren voor fabrikanten of beveiligers?
- Het artikel zegt dat de dreiging op elk ontwikkelingsstadium kan worden ingebracht. Wanneer, volgens jou, is beveiliging het belangrijkst tijdens ontwikkeling en waarom?
Gerelateerde artikelen
Computeroefeningen verbeteren hersenen na letsel
Nieuw onderzoek laat zien dat volwassenen met traumatisch hersenletsel door gecomputeriseerde cognitieve oefeningen de structuur van de hersenen en denkvaardigheden kunnen verbeteren, met aanwijzingen voor neuroplasticiteit en betere testresultaten.
AI vergroot toegang tot seksuele gezondheid in Latijns‑Amerika
Onderzoeksgroepen en ngo's in Latijns‑Amerika gebruiken kunstmatige intelligentie om informatie over seksuele en reproductieve gezondheid te verspreiden, met projecten in Peru en Argentinië voor jongeren en gemarginaliseerde groepen.
Nieuwe echografiemethode onderscheidt cysten en vaste massa's
Onderzoekers ontwikkelden een nieuwe signaalverwerking voor echografie die vloeistof en vaste borstmassa's beter kan onderscheiden. In tests identificeerden artsen massa's in 96% van de gevallen, vergeleken met 67% met gewone echografie.
Discussie over beoordelingssysteem in kendo
Kendo-punten komen van menselijke scheidsrechters die letten op ki-ken-tai no icchi: eenheid van geest, zwaard en lichaam. Er zijn klachten over inconsistentie, discussie over technologie en oproepen voor duidelijkere regels en betere basisvaardigheden.