Uma equipa de segurança da Georgia Tech descobriu VillainNet, uma porta dos fundos que explora as chamadas "super redes" de IA usadas em sistemas de condução autônoma. As super redes funcionam trocando subredes pequenas conforme muda o tempo ou o trânsito, por exemplo para lidar com chuva ou mudanças de faixa. David Oygenblik, doutorando e investigador principal, explicou que as redes foram pensadas como um "canivete suíço" de ferramentas de IA.
Segundo o estudo, um atacante pode ocultar uma porta dos fundos dentro de uma subrede que permanece dormente até uma condição muito específica. Quando essa subrede é selecionada, VillainNet ativa-se e pode tomar o controle do veículo, ameaçar passageiros e forçar o carro a colidir. Em experiências, o ataque teve 99% de sucesso após a ativação, e a porta ficou invisível dentro do sistema completo de IA.
Os autores afirmam que detectar essa ameaça exigiria muito mais computação e tempo do que os métodos atuais. Eles alertam que a vulnerabilidade pode ser inserida em qualquer fase de desenvolvimento e pedem novas defesas para as super redes.
Palavras difíceis
- porta dos fundos — acesso secreto criado para controlar um sistema
- super rede — conjunto de várias redes trocadas conforme condiçãosuper redes
- subrede — parte menor de uma rede maior de IAsubredes
- dormente — inativa até que ocorra uma condição específica
- ativar — fazer algo começar a funcionarativa-se
- colidir — bater contra outro objeto com força
- vulnerabilidade — fraqueza que permite um ataque ou dano
Dica: passe o mouse, foque ou toque nas palavras destacadas no artigo para ver definições rápidas enquanto lê ou ouve.
Perguntas para discussão
- Você confiaria em um carro que usa super redes? Por quê?
- Que defesas novas você sugeriria para proteger super redes contra portas dos fundos?
- Subredes dormentes podem ser úteis e perigosas. Dê um exemplo de cada e explique.
Artigos relacionados
Projeto digital para preservar línguas de Bangladesh
O governo de Bangladesh lançou o site Multilingual Cloud para digitalizar e guardar línguas étnicas. O portal reúne palavras, frases, gravações e transcrições em IPA para ajudar comunidades e pesquisadores a preservar idiomas ameaçados.
