In einer neuen Studie der University of Washington warnen Forschende davor, dass agentische Browser mit integrierten KI‑Agenten ernste Cybersicherheitsrisiken schaffen können. Solche Agenten sollen Nutzern helfen, zum Beispiel Tabs zu öffnen oder Optionen zu recherchieren, doch ihre Fähigkeiten erlauben auch neue Angriffswege.
Das Team prüfte sieben populäre agentische Browser und fand heraus, dass vier von ihnen Mechanismen bieten, mit denen die Same‑Origin‑Policy ausgehöhlt werden kann. Die Same‑Origin‑Policy, eingeführt 1995, verhindert normalerweise, dass verschiedene Webseiten im selben Browser aufeinander zugreifen. Franziska Roesner bezeichnete diese Regel als grundlegend für den Schutz von Informationen in modernen Browsern.
Als Proof‑of‑Concept zeigten die Forschenden einen Angriff gegen ChatGPT Atlas: Eine Webseite bettete eine andere Seite ein; eine Anzeige auf einer E‑Mail‑Seite entwendete so sensible Inhalte aus den E‑Mails. Die Arbeit beschreibt zwei Hauptprobleme: Prompt‑Injection, also versteckte Anweisungen, die Agenten dazu verleiten, Daten preiszugeben oder zu verschicken, und Memory‑Poisoning, bei dem beim Überarbeiten oder Komprimieren von Erinnerungseinträgen Informationen verschiedener Ursprünge vermischt werden können. Browser, die den Agenten weniger Berechtigungen gaben, wirkten insgesamt sicherer. Co‑Seniorautor David Kohlbrenner sagte: „Browser‑Agenten sind noch nicht für die Öffentlichkeit bereit.“
Die Autoren teilten ihre Erkenntnisse mit betroffenen Firmen; einige reagierten nicht, andere lehnten den Bericht ab, und es gab Austausch mit Google, Microsoft und Brave. Die Studie wurde beim Agents in the Wild Workshop in Rio de Janeiro vorgestellt und teilweise durch Zuwendungen von Microsoft finanziert.
Schwierige Wörter
- studie — systematische Untersuchung über ein bestimmtes Thema
- agent — Programm, das Aufgaben für Nutzer automatisch ausführtAgenten
- aushöhlen — etwas schwächer oder weniger wirksam machenausgehöhlt
- same-origin-policy — Sicherheitsregel, die Zugriffe zwischen Webseiten verhindertSame‑Origin‑Policy
- prompt-injection — versteckte Anweisung, die KI‑Agenten zu Aktionen verleitetPrompt‑Injection
- memory-poisoning — Verfälschung von gespeicherten Erinnerungen oder DatenMemory‑Poisoning
- berechtigung — Erlaubnis, auf etwas zuzugreifen oder zu handelnBerechtigungen
Tipp: Fahre über markierte Wörter oder tippe darauf, um kurze Definitionen zu sehen – während du liest oder zuhörst.
Diskussionsfragen
- Welche Maßnahmen sollten Browser‑Hersteller Ihrer Meinung nach ergreifen, um die in der Studie genannten Risiken zu reduzieren?
- Wie würden Sie die Begriffe Prompt‑Injection und Memory‑Poisoning einer nicht‑technischen Person erklären?
- Welche Rolle sollten grosse Firmen wie Google oder Microsoft bei der Behebung solcher Sicherheitsprobleme spielen?
Verwandte Artikel
Jamaika prüft hohe Stromrechnungen und erneuerbare Energie
Nach Hurrikan Beryl beklagten viele Jamaikaner stark gestiegene Stromrechnungen. Die Behörden forderten Prüfungen, eine Regulierungsbehörde empfahl eine Reduktion, und die Regierung prüft Solar- und ozeanische Energien trotz hoher Kosten.
Xonorika Kira: Menschzentrierte KI kann Ausschluss verstärken
Die Künstlerin Xonorika Kira warnt, dass der Ausdruck „den Menschen in den Mittelpunkt“ eine enge Vorstellung von Menschlichkeit verbergen kann und so viele Formen von Intelligenz ausschließt. Sie schlägt Alternativen für Daten, Modelle und Gemeinschaften vor.
Chinesische Elektroautos verlagern ihren Fokus nach Afrika
Chinesische Autohersteller expandierten ins Ausland, doch hohe Zölle in den USA und Handelskontrollen in der EU schränken den Zugang ein. Viele Firmen und afrikanische Regierungen bauen nun Produktion, Händlernetz und Infrastruktur in Afrika aus.
