Im letzten Jahr erschienen Webbrowser mit integrierten KI‑Agenten, die Tabs öffnen, Optionen recherchieren und Aufgaben für Nutzer erledigen können. Eine Studie der University of Washington warnt nun vor erheblichen Cybersicherheitsrisiken durch diese Agenten.
Das Forscherteam untersuchte sieben populäre agentische Browser und stellte fest, dass vier von ihnen Wege bieten, die Same‑Origin‑Policy zu umgehen. Diese Regel schützt normalerweise davor, dass unterschiedliche Webseiten im gleichen Browser aufeinander zugreifen. Franziska Roesner von der UW nannte diese Policy grundlegend für den Schutz von Informationen.
Die Forschenden führten einen Proof‑of‑Concept‑Angriff gegen ChatGPT Atlas durch: Eine eingebettete Seite entwendete Daten, etwa indem eine Anzeige auf einer E‑Mail‑Seite sensible Informationen aus E‑Mails abgriff. Die Studie nennt zwei technische Risiken: versteckte Anweisungen (Prompt‑Injection) und das Vermischen von Erinnerungsdaten (Memory‑Poisoning). Einige Firmen reagierten, andere lehnten den Bericht ab oder antworteten nicht.
Schwierige Wörter
- cybersicherheitsrisiko — Gefahr für die Sicherheit von Computer und InternetCybersicherheitsrisiken
- agentisch — so, dass ein Programm automatisch Aufgaben erledigtagentische
- same-origin-policy — Regel, die Zugriffe zwischen Webseiten im Browser verhindertSame‑Origin‑Policy
- entwenden — heimlich oder illegal etwas wegnehmenentwendete
- einbetten — in eine andere Seite oder Datei einfügeneingebettete
- prompt-injection — wenn versteckte Anweisungen ein System beeinflussenPrompt‑Injection
- memory-poisoning — Absichtliches Verändern gespeicherter Daten, damit Fehler entstehenMemory‑Poisoning
Tipp: Fahre über markierte Wörter oder tippe darauf, um kurze Definitionen zu sehen – während du liest oder zuhörst.
Diskussionsfragen
- Würdest du einen Browser mit integriertem KI‑Agenten benutzen? Warum oder warum nicht?
- Welche Folgen könnten Sicherheitslücken in Browsern für Nutzer haben?
- Was könnten Browser‑Hersteller tun, um solche Risiken zu verringern?
Verwandte Artikel
Warum soziale Medien das Ungewöhnliche zeigen
Forscher der Virginia Tech zeigen, dass Menschen von Natur aus auf seltene, aufregende Inhalte reagieren. Die Studie nennt dieses Phänomen „Ausbreitung der Seltenheitsverzerrung“ und beschreibt Experimente und Simulationen zu seinem Effekt in Feeds.
