Pesquisadores da University of Washington analisaram sete navegadores que integram agentes de IA e reportaram que quatro deles oferecem formas para atacantes contornarem a política de mesma origem (same-origin policy). Essa política, introduzida em 1995, impede que sites diferentes acessem os dados uns dos outros quando rodam no mesmo navegador; a professora Franziska Roesner afirmou que ela é fundamental para proteger informações nos navegadores modernos.
Em uma prova de conceito, a equipe atacou o ChatGPT Atlas: um site embutiu outro site e acabou extraindo informações, por exemplo um anúncio em um serviço de e‑mail que puxou dados sensíveis das mensagens do usuário. Condições para ataques semelhantes foram encontradas também em Chrome with Gemini, Claude for Chrome e Perplexity Comet. De modo geral, navegadores que davam menos permissões aos agentes se mostraram mais seguros.
O estudo detalha dois riscos técnicos principais. O primeiro é injeção de instruções (prompt injection), quando uma página maliciosa esconde comandos que enganam o agente para revelar ou transferir dados. O segundo é envenenamento de memória (memory poisoning): agentes que armazenam o que aprendem podem misturar informações de origens distintas ao rever e comprimir sua memória.
Os autores informaram as empresas afetadas: Anthropic e Firefox não responderam, enquanto Perplexity e OpenAI recusaram o relatório. A equipe manteve trocas com Google, Microsoft e Brave. O estudo foi apresentado no Agents in the Wild Workshop no Rio de Janeiro e recebeu financiamento parcial por doações da Microsoft. Fonte: University of Washington.
- Risco 1: injeção de instruções que induz o agente a vazar dados.
- Risco 2: envenenamento de memória que mistura informações de origens diferentes.
Palavras difíceis
- injeção de instruções — Página maliciosa que oculta comandos para enganar agente.
- envenenamento de memória — Mistura de informações de origens distintas na memória do agente.
- agente — Programa que responde a instruções e interage no navegador.agentes
- prova de conceito — Demonstração prática que mostra viabilidade de um ataque.
- permissão — Autorização que permite acessar ou usar recursos do sistema.permissões
- extrair — Retirar ou obter dados de uma fonte ou sistema.extraindo
Dica: passe o mouse, foque ou toque nas palavras destacadas no artigo para ver definições rápidas enquanto lê ou ouve.
Perguntas para discussão
- Por que a política de mesma origem é importante para a privacidade dos usuários? Dê exemplos simples do texto.
- Que mudanças nos navegadores poderiam reduzir os riscos de injeção de instruções e envenenamento de memória?
- Como a reação das empresas mencionadas (recusar, não responder, trocar informações) pode afetar a confiança do público nos navegadores e agentes de IA?
Artigos relacionados
Equador usa tecnologia contra a desinformação eleitoral
Grupos no Equador reativaram Hacks Hackers e organizaram conferência e hackathon no início de 2024 para enfrentar a desinformação eleitoral com ferramentas tecnológicas, premiando três equipes que seguem desenvolvendo protótipos.
