Ein Forschungsteam der Georgia Tech entdeckte eine bislang wenig beachtete Sicherheitslücke mit dem Namen VillainNet, die Supernetzwerke in autonomen Fahrsystemen kompromittieren kann. Supernetzwerke funktionieren, indem sie für verschiedene Verkehrssituationen kleine Subnetzwerke austauschen; so bekommen Fahrzeuge spezielle Softwarebausteine für Regen, hohe Verkehrsdichte oder Spurwechsel. David Oygenblik, Doktorand und leitender Forscher des Projekts, nennt diese Architektur das "Schweizer Taschenmesser der KI".
Die Studie zeigt, dass Angreifer eine verborgene Hintertür in einem Subnetzwerk verstecken können. Die Hintertür bleibt inaktiv, bis genau dieses Subnetzwerk ausgewählt wird; dann aktiviert sich VillainNet und ermöglicht eine Übernahme des Fahrzeugs. Als mögliches Auslöseszenario beschreiben die Forscher ein selbstfahrendes Taxi, das auf Regen und veränderte Straßenbedingungen reagiert.
In Experimenten gelang der Angriff nahezu stets, sobald er aktiviert war, während die Hintertür im gesamten KI-System unsichtbar blieb. Die Studie nennt zudem konkrete Befunde:
- 99% Erfolgsrate bei aktivierten Angriffen
- Erkennung würde 66x mehr Rechenleistung und Zeit benötigen
- Angriff kann sich unter bis zu 10 quintillionen möglichen Konfigurationen verbergen
Die Forscher betonen, dass das Auffinden solcher Hintertüren aktuell deutlich mehr Rechenleistung und Zeit erfordern würde, als heutige Methoden erlauben. Sie warnen, die Bedrohung könne zu jedem Zeitpunkt der Entwicklung eingeschleust werden, und fordern neue Abwehrmaßnahmen sowie die Integration von Sicherheitsvorkehrungen in Supernetzwerke. Das Projekt wurde im Oktober 2025 auf der ACM Conference on Computer and Communications Security vorgestellt. Quelle: Georgia Tech.
Schwierige Wörter
- sicherheitslücke — Schwachstelle in Software, die Angriffe ermöglicht.
- supernetzwerk — System, das mehrere kleine neuronale Netze kombiniert.Supernetzwerke
- subnetzwerk — Kleineres Teilnetzwerk innerhalb eines größeren neuronalen Netzes.Subnetzwerke
- hintertür — Versteckter Zugangspunkt, der Kontrolle erlaubt.
- auslöseszenario — Konkrete Situation, die einen Angriff auslöst.
- erfolgsrate — Anteil erfolgreicher Versuche oder Angriffe in Prozent.
- erkennung — Vorgang, ein Problem oder Angriff zu finden.
- kompromittieren — Ein System schädigen oder seine Kontrolle übernehmen.
Tipp: Fahre über markierte Wörter oder tippe darauf, um kurze Definitionen zu sehen – während du liest oder zuhörst.
Diskussionsfragen
- Welche Folgen könnte die Entdeckung von VillainNet für das Vertrauen in autonome Fahrzeuge haben?
- Welche konkreten Abwehrmaßnahmen wären sinnvoll, um Hintertüren in Supernetzwerken zu verhindern?
- Wie erschwert die sehr hohe Zahl möglicher Konfigurationen das Auffinden von Hintertüren?
Verwandte Artikel
Wissensgeleitete KI schreibt bessere Überschriften
Forschende der Yale School of Management zeigen, wie ein großes Sprachmodell durch das Generieren und Validieren von Hypothesen Überschriften erzeugt, die mehr Engagement und Vertrauen bringen. Das System wurde mit Upworthy‑Daten getestet und von Menschen bewertet.
Fast eine Milliarde Menschen haben keinen Zugang zu Assistenzgeräten
Ein WHO- und UNICEF-Bericht vom 16. Mai zeigt: viele Kinder, Erwachsene mit Behinderung und ältere Menschen bekommen nicht die assistive Technologie, die sie brauchen. Der Bericht nennt große Lücken, Gründe und Forderungen an Regierungen.
Algorithmen erklären, wie Propan zu Propylen wird
Forscher der University of Rochester entwickelten Algorithmen, die auf atomarer Ebene zeigen, wie nanoskalige Katalysatoren Propan in Propylen umwandeln. Die Ergebnisse erklären selektives Oxidwachstum an defekten Metallstellen und haben industrielle Anwendungen.
Punktevergabe im Kendo und die Debatte um Urteil und Technik
Die Punktevergabe im Kendo hängt vom Urteil der Schiedsrichter ab. Gültige Treffer müssen ki-ken-tai no icchi erfüllen. Beschwerden über inkonsistente Entscheidungen führen zu Diskussionen über Video, Sensoren und Reformen.
Gehirnaktivität bei Mäusen über den Tag verfolgen
Forscher entwickelten experimentelle und rechnerische Methoden, um bei Mäusen mit Einzelzellauflösung zu sehen, welche Hirnregionen im Tagesverlauf aktiv sind. Die Studie erschien in PLOS Biology und hilft, Müdigkeit besser zu verstehen.