Onderzoekers van Georgia Tech presenteerden een nieuw aanvalsscenario, VillainNet, dat zich inzet tegen zogenaamde supernetwerken in autonome voertuigen. Supernetwerken selecteren kleine subnetwerken naar gelang rijomstandigheden, en daarin kan een aanvaller een verborgen achterdeur verbergen die alleen actief wordt als juist dat subnetwerk gekozen wordt. David Oygenblik, promovendus en hoofdonderzoeker, vergelijkt supernetwerken met "het Zwitserse zakmes van AI": ze wisselen hulpmiddelen in en uit naargelang de taak.
In experimenten bleek dat een VillainNet-aanval vrijwel zeker slaagt zodra zij is geactiveerd; de onderzoekers rapporteren een 99% succespercentage voor geactiveerde aanvallen. Detectie is moeilijk: het onderzoek noemt dat detectie veel meer rekenkracht en tijd vergt (ongeveer 66x) en dat de aanval zich kan verstoppen tussen als wel 10 quintiljoen mogelijke configuraties. Daardoor blijft de achterdeur onzichtbaar binnen het volledige AI-systeem.
Het team waarschuwt dat de dreiging op elk ontwikkelingsstadium kan worden ingebracht en miljoenen tot miljarden scenario's kan bestrijken. Als reactie roepen de onderzoekers de beveiligingsgemeenschap op tot nieuwe verdedigingen en stellen ze voor om specifieke beveiligingsmaatregelen aan supernetwerken toe te voegen. Het project werd gepresenteerd op de ACM Conference on Computer and Communications Security (CCS) in oktober 2025.
- 99% succes bij geactiveerde aanvallen
- Detectie vereist ~66x meer rekenkracht en tijd
- Kan zich verbergen tussen ~10 quintiljoen configuraties
Moeilijke woorden
- supernetwerk — AI-model dat meerdere subnetwerken combineertsupernetwerken
- subnetwerk — klein onderdeel van een groter netwerksubnetwerken
- achterdeur — verborgen toegang tot een computersysteem
- detectie — proces om problemen of aanvallen te ontdekken
- configuratie — manier waarop onderdelen zijn ingesteldconfiguraties
- beveiligingsgemeenschap — groep deskundigen die veiligheid onderzoekt
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Welke gevolgen kan een onopgemerkte achterdeur in autonome voertuigen hebben voor bestuurders en het publiek? Geef concrete voorbeelden.
- Het artikel noemt dat detectie ongeveer 66x meer rekenkracht en tijd vergt. Welke praktische problemen kan dat opleveren voor fabrikanten of beveiligers?
- Het artikel zegt dat de dreiging op elk ontwikkelingsstadium kan worden ingebracht. Wanneer, volgens jou, is beveiliging het belangrijkst tijdens ontwikkeling en waarom?
Gerelateerde artikelen
AI-audiooverzichten maken onderzoek toegankelijk, maar bevatten fouten
Onderzoekers testten Google’s NotebookLM op drie artikelen over vulkanisme op Mars. De audio’s waren begrijpelijk en boeiend, maar bevatten herhaalde onnauwkeurigheden; de onderzoekers adviseren altijd het originele onderzoek te lezen.
Noodmaatregelen en jonge mannen in het Caribisch gebied
In delen van het Caribisch gebied breiden noodmaatregelen zoekbevoegdheden uit en is inhechtenisneming zonder formele aanklacht toegestaan. Het raakt vooral jonge mannen en roept vragen op over samenhang met sociale en economische beleid.
Mensen met gezichtsverlies schatten aankomst van voertuigen
Onderzoekers vergeleken volwassenen met leeftijdsgebonden maculadegeneratie en mensen met normaal zicht bij het schatten van de aankomsttijd van een voertuig in een virtuele omgeving. Beide groepen gebruikten zicht en geluid; er was geen extra voordeel van beide samen.
Landengroepen in Latijns-Amerika werken samen aan AI-ethiek
Op een ministeriële top in de Dominicaanse Republiek (25–26 juni) spraken meer dan 20 landen af samen richtlijnen te maken voor kunstmatige intelligentie. De Santo Domingo Declaration wordt gesteund door UNESCO en de Development Bank of Latin America and the Caribbean.