Pesquisadores da Georgia Tech apresentaram um estudo sobre VillainNet, uma porta dos fundos que pode comprometer carros autônomos ao explorar as chamadas "super redes" de inteligência artificial. As super redes escolhem e trocam pequenas subredes para tarefas específicas — por exemplo, reagir à chuva, gerir tráfego ou ajustar mudanças de faixa — o que as torna flexíveis, segundo os autores.
O trabalho, liderado pelo doutorando David Oygenblik, mostra que um atacante pode esconder uma porta dos fundos numa subrede particular que permanece dormente até que essa configuração exata seja selecionada. Quando a condição aparece — os autores citam situações como um táxi autônomo a responder à chuva e a alterar a via — a porta, VillainNet, ativa-se e pode assumir o controlo do veículo. Os investigadores alertam que, uma vez no controlo, os atacantes poderiam ameaçar passageiros e forçar colisões.
Em testes controlados, o ataque foi quase certo de ocorrer após a ativação, com taxa de sucesso de 99% para ataques ativados. Detectar tal porta dos fundos no sistema completo exigiria cerca de 66 vezes mais poder de computação e tempo do que os métodos atuais, e o ataque pode permanecer oculto entre até 10 quintilhões de configurações possíveis. Os autores avisam que a ameaça pode ser introduzida em qualquer fase do desenvolvimento e cobrir bilhões de cenários; por isso sugerem acrescentar medidas de segurança às super redes. O projeto foi apresentado na ACM Conference on Computer and Communications Security em outubro de 2025.
Palavras difíceis
- porta dos fundos — Acesso oculto que permite controlo não autorizado.
- super rede — Rede de IA que alterna entre várias subredes.super redes
- subrede — Parte menor de uma rede com função específica.subredes
- ativar — Fazer começar a funcionar; pôr em operação.ativa-se
- dormente — Que fica inativo até condição específica.
- comprometer — Permitir dano ou perda de segurança.
- taxa de sucesso — Percentual de tentativas que tiveram sucesso.
- computação — Processamento de dados por computadores.
- quintilhão — Número inteiro muito grande, usado para quantidades.quintilhões
- introduzir — Colocar algo dentro de um sistema ou processo.introduzida
Dica: passe o mouse, foque ou toque nas palavras destacadas no artigo para ver definições rápidas enquanto lê ou ouve.
Perguntas para discussão
- Que medidas de segurança poderiam ser acrescentadas às super redes para reduzir essa ameaça? Explique com razões.
- Como a necessidade de muito mais poder de computação para detecção pode afetar empresas que desenvolvem carros autônomos? Dê exemplos.
- Que vantagens e riscos as super redes trazem para veículos autónomos, na sua opinião? Justifique com base no texto.
Artigos relacionados
Declaração de Santo Domingo sobre a ética da IA na América Latina e Caribe
Países da América Latina e do Caribe reuniram-se na República Dominicana nos dias 25 e 26 de junho e adotaram a Declaração de Santo Domingo para trabalhar a ética da inteligência artificial. A declaração cria um grupo regional e define cinco pilares para o roteiro 2026-2027.
Pessoas com degeneração macular estimam chegada de veículos de modo semelhante
Um estudo com realidade virtual comparou adultos com degeneração macular relacionada à idade (AMD) e adultos com visão normal. Os resultados mostraram desempenho parecido entre os grupos e nenhuma vantagem clara quando visão e som estavam juntos.
