Uma equipa de segurança da Georgia Tech descobriu VillainNet, uma porta dos fundos que explora as chamadas "super redes" de IA usadas em sistemas de condução autônoma. As super redes funcionam trocando subredes pequenas conforme muda o tempo ou o trânsito, por exemplo para lidar com chuva ou mudanças de faixa. David Oygenblik, doutorando e investigador principal, explicou que as redes foram pensadas como um "canivete suíço" de ferramentas de IA.
Segundo o estudo, um atacante pode ocultar uma porta dos fundos dentro de uma subrede que permanece dormente até uma condição muito específica. Quando essa subrede é selecionada, VillainNet ativa-se e pode tomar o controle do veículo, ameaçar passageiros e forçar o carro a colidir. Em experiências, o ataque teve 99% de sucesso após a ativação, e a porta ficou invisível dentro do sistema completo de IA.
Os autores afirmam que detectar essa ameaça exigiria muito mais computação e tempo do que os métodos atuais. Eles alertam que a vulnerabilidade pode ser inserida em qualquer fase de desenvolvimento e pedem novas defesas para as super redes.
Palavras difíceis
- porta dos fundos — acesso secreto criado para controlar um sistema
- super rede — conjunto de várias redes trocadas conforme condiçãosuper redes
- subrede — parte menor de uma rede maior de IAsubredes
- dormente — inativa até que ocorra uma condição específica
- ativar — fazer algo começar a funcionarativa-se
- colidir — bater contra outro objeto com força
- vulnerabilidade — fraqueza que permite um ataque ou dano
Dica: passe o mouse, foque ou toque nas palavras destacadas no artigo para ver definições rápidas enquanto lê ou ouve.
Perguntas para discussão
- Você confiaria em um carro que usa super redes? Por quê?
- Que defesas novas você sugeriria para proteger super redes contra portas dos fundos?
- Subredes dormentes podem ser úteis e perigosas. Dê um exemplo de cada e explique.
Artigos relacionados
Ciberameaças dominam negociações entre África e UE
As ameaças digitais passaram a ser tema central nas conversas entre a União Africana e a União Europeia. Jornalistas enfrentam programas espiões e o Quénia registou um aumento severo de ataques; a cimeira em Luanda discutiu soluções e proteção para mulheres online.
Doações no TikTok em Adis Abeba levantam dúvidas
Vídeos no TikTok mostraram um homem chamado Tamru e motivaram doações para comprar um Bajaj. Parte do dinheiro foi enviada para outras contas, surgiram pedidos de mais pagamentos e observadores alertam para risco de fraude nas plataformas.
Equador usa tecnologia contra a desinformação eleitoral
Grupos no Equador reativaram Hacks Hackers e organizaram conferência e hackathon no início de 2024 para enfrentar a desinformação eleitoral com ferramentas tecnológicas, premiando três equipes que seguem desenvolvendo protótipos.