Forscher warnen, dass der Programmierstil "vibe coding" oft verwundbaren Code freigibt. Ein Team durchsuchte mehr als 43.000 Sicherheitswarnungen und fand viele Fälle, in denen generative KI unsicheren Code erzeugte. Zu den verwendeten Tools gehören Claude, Gemini und GitHub Copilot.
Der Vibe Security Radar wurde am Systems Software & Security Lab (SSLab) der Georgia Tech entwickelt. Der Radar durchsucht öffentliche Datenbanken, erkennt den Fehler in einer Meldung und prüft die Code-Historie. Wenn eine AI-Signatur gefunden wird, markiert das System den Fall.
Das Team arbeitet an verhaltensbasierter Erkennung und rät, AI-Code wie die Arbeit eines Junior-Entwicklers zu prüfen. SSLab empfiehlt, AI klare Eingaben zu geben und Werkzeuge zur Schwachstellenprüfung zu nutzen.
Schwierige Wörter
- verwundbar — leicht von Fehlern oder Angriffen betroffenverwundbaren
- sicherheitswarnung — Hinweis auf ein mögliches SicherheitsproblemSicherheitswarnungen
- generativ — Erzeugt automatisch Text oder Code durch KIgenerative
- durchsuchen — etwas systematisch nach Informationen suchendurchsuchte, durchsucht
- signatur — ein charakteristisches Merkmal einer QuelleAI-Signatur
- erkennen — etwas wahrnehmen oder feststellen könnenerkennt
- schwachstellenprüfung — Test, um Sicherheitslücken im Code zu finden
Tipp: Fahre über markierte Wörter oder tippe darauf, um kurze Definitionen zu sehen – während du liest oder zuhörst.
Diskussionsfragen
- Würdest du AI-generierten Code wie die Arbeit eines Junior-Entwicklers prüfen? Warum?
- Welche Werkzeuge würdest du zur Schwachstellenprüfung nutzen?
- Findest du es wichtig, der AI klare Eingaben zu geben? Warum?
Verwandte Artikel
Künstliche Intelligenz an US-Grenzen und Risiken
In den USA wird KI bei Grenzkontrollen und in der Einwanderungsdurchsetzung eingesetzt. Menschenrechtsgruppen warnen vor rassistischer Diskriminierung und fordern Transparenz, Opt-out-Möglichkeiten sowie ein Ende diskriminierender Anwendungen.
Wie verteilte Gehirnnetzwerke Intelligenz formen
Neurowissenschaftler untersuchten mit Hirnbildgebung, wie die Organisation vieler Gehirnbereiche zur allgemeinen Intelligenz führt. Die Studie zeigt, dass Intelligenz aus vernetzter, systemweiter Koordination entsteht und nicht aus einer einzigen Region.
Neue Fermentierbox verbessert Kakaoverarbeitung in Kasawo
In Kasawo nördlich von Kampala ersetzt eine lokal gefertigte Einzel-Fermentierbox die alten gestapelten Holzkisten. Die Box verbessert die Fermentation, erhöht das Einkommen der Produzenten und erleichtert die Verarbeitung und den Verkauf.