Un recente studio dell'University of Washington esamina i rischi legati ai browser che integrano agenti AI, programmi in grado di aprire schede, cercare soluzioni ed eseguire compiti per l'utente. Il team ha analizzato sette browser agentici popolari e ha rilevato che quattro offrono modalità con cui un attaccante può aggirare la politica della stessa origine, introdotta nel 1995 per impedire che siti diversi accedano ai dati l'uno dell'altro. Franziska Roesner, professoressa alla UW, sottolinea che questa politica è fondamentale per la protezione delle informazioni nei browser moderni.
I ricercatori hanno realizzato un proof-of-concept su ChatGPT Atlas: una pagina ha incorporato un altro sito e ha sottratto informazioni, per esempio un annuncio su un servizio di posta che preleva dati sensibili dalle email dell'utente. Hanno poi identificato condizioni simili in Chrome con Gemini, Claude for Chrome e Perplexity Comet. In generale i browser che limitano i permessi degli agenti risultano più difficili da sfruttare.
Lo studio dettaglia due rischi tecnici principali:
- Prompt injection: una pagina malevola nasconde istruzioni che inducono l'agente a rivelare o trasferire dati, come l'istruzione che chiede di riassumere contenuti incorporati e inviare il riassunto a un modulo sulla stessa pagina.
- Memory poisoning: poiché gli agenti spesso memorizzano ciò che apprendono, i ricercatori hanno trovato che alcuni agenti possono mescolare informazioni provenienti da origini diverse quando aggiornano o comprimono la memoria.
I risultati sono stati condivisi con le aziende responsabili: Anthropic e Firefox non hanno risposto, Perplexity e OpenAI hanno declinato il rapporto, mentre il team ha avuto scambi con Google, Microsoft e Brave. Lo studio è stato presentato all'Agents in the Wild Workshop a Rio de Janeiro e in parte finanziato da donazioni di Microsoft.
Parole difficili
- agente — programma che esegue compiti per l'utenteagenti AI
- browser — programma per navigare e visualizzare pagine webbrowser agentici
- origine — sorgente di dati o contenuti di un sito webstessa origine
- incorporare — inserire un contenuto di un sito dentro un'altra paginaha incorporato
- sottrarre — prendere via o ottenere dati senza permessoha sottratto
- memoria — archivio di informazioni che un agente conserva
- permesso — autorizzazione che limita ciò che può farepermessi degli agenti
- istruzione — indicazione scritta o parlata per eseguire qualcosaistruzioni
Suggerimento: passa il mouse o tocca le parole evidenziate nell’articolo per vedere definizioni rapide mentre leggi o ascolti.
Domande di discussione
- Come potrebbero cambiare le abitudini degli utenti se i browser integrassero agenti AI con permessi estesi?
- Quali misure potrebbero adottare le aziende per ridurre il rischio di istruzioni nascoste o di mescolamento delle informazioni nella memoria degli agenti?
- Quali vantaggi e quali rischi vedi nell'usare agenti che possono aprire schede e cercare informazioni per conto dell'utente?
Articoli correlati
Collegare computer quantistici a lunga distanza
Ricercatori della University of Chicago propongono un approccio per collegare computer quantistici su grandi distanze. Hanno migliorato la coerenza di atomi in cristalli e usato una tecnica di crescita diversa per ottenere materiali più puri.
L'AI nelle mammografie può segnalare il rischio cardiaco
Uno studio retrospettivo mostra che l'intelligenza artificiale che analizza le mammografie può individuare donne con rischio maggiore di malattie cardiovascolari. Le immagini contengono informazioni sul cuore che di solito non vengono segnalate.