Forscher warnen davor, dass ein Programmiersstil namens "vibe coding" Chargen verwundbaren Codes freigibt. Die Forscher durchsuchten über 43.000 Sicherheitswarnungen im Web und fanden viele Fälle, in denen generative künstliche Intelligenz unsicheren Code erzeugte. Zu den eingesetzten Tools gehören Claude, Gemini und GitHub Copilot.
Der Vibe Security Radar wurde vom Systems Software & Security Lab (SSLab) an der Georgia Tech entwickelt. Der Graduiertenassistent Hanqing Zhao sagt, zuvor habe niemand diese weit verbreiteten Schwachstellen systematisch verfolgt. Der Radar durchsucht öffentliche Vulnerability‑Datenbanken, identifiziert den Fehler in jeder Meldung und untersucht die Code‑Historie, um zu ermitteln, wer den Fehler eingeführt hat. Findet das System eine Signatur eines AI‑Tools, markiert es den Fall.
Bisher hat das Tool 74 Fälle bestätigt; 14 gelten als kritisch und 25 als hoch. Zu den entdeckten Schwachstellen gehören Command Injection, Umgehung der Authentifizierung und Server‑Side Request Forgery. Das Team arbeitet an Modellen, die AI‑Code auch ohne Metadaten am Verhalten erkennen. Zhao warnt: Reviewt AI‑Code so sorgfältig wie den Pull Request eines Junior‑Entwicklers und nutzt Sicherheitswerkzeuge.
Schwierige Wörter
- programmierstil — Art und Weise, wie jemand Code schreibtProgrammiersstil
- generativ — künstliche Intelligenz, die automatisch Inhalte erzeugtgenerative
- schwachstelle — Fehler in Software, der Angriffe möglich machtSchwachstellen
- durchsuchen — systematisch etwas nach Informationen prüfendurchsuchten, durchsucht
- sicherheitswerkzeug — Programm, das Systeme auf Schwachstellen prüftSicherheitswerkzeuge
- command injection — Angriff, der unerlaubt Systembefehle ausführt
Tipp: Fahre über markierte Wörter oder tippe darauf, um kurze Definitionen zu sehen – während du liest oder zuhörst.
Diskussionsfragen
- Wie würden Sie in Ihrem Team AI‑generierten Code prüfen? Nennen Sie zwei konkrete Schritte.
- Welche Gefahren haben Schwachstellen wie Command Injection für eine Webanwendung?
- Halten Sie automatische Erkennung von AI‑Code für sinnvoll? Warum oder warum nicht?
Verwandte Artikel
Künstliche Intelligenz an US-Grenzen und Risiken
In den USA wird KI bei Grenzkontrollen und in der Einwanderungsdurchsetzung eingesetzt. Menschenrechtsgruppen warnen vor rassistischer Diskriminierung und fordern Transparenz, Opt-out-Möglichkeiten sowie ein Ende diskriminierender Anwendungen.
Wie verteilte Gehirnnetzwerke Intelligenz formen
Neurowissenschaftler untersuchten mit Hirnbildgebung, wie die Organisation vieler Gehirnbereiche zur allgemeinen Intelligenz führt. Die Studie zeigt, dass Intelligenz aus vernetzter, systemweiter Koordination entsteht und nicht aus einer einzigen Region.
Neue Fermentierbox verbessert Kakaoverarbeitung in Kasawo
In Kasawo nördlich von Kampala ersetzt eine lokal gefertigte Einzel-Fermentierbox die alten gestapelten Holzkisten. Die Box verbessert die Fermentation, erhöht das Einkommen der Produzenten und erleichtert die Verarbeitung und den Verkauf.