Uma equipa de segurança da Georgia Tech descobriu VillainNet, uma porta dos fundos que explora as chamadas "super redes" de IA usadas em sistemas de condução autônoma. As super redes funcionam trocando subredes pequenas conforme muda o tempo ou o trânsito, por exemplo para lidar com chuva ou mudanças de faixa. David Oygenblik, doutorando e investigador principal, explicou que as redes foram pensadas como um "canivete suíço" de ferramentas de IA.
Segundo o estudo, um atacante pode ocultar uma porta dos fundos dentro de uma subrede que permanece dormente até uma condição muito específica. Quando essa subrede é selecionada, VillainNet ativa-se e pode tomar o controle do veículo, ameaçar passageiros e forçar o carro a colidir. Em experiências, o ataque teve 99% de sucesso após a ativação, e a porta ficou invisível dentro do sistema completo de IA.
Os autores afirmam que detectar essa ameaça exigiria muito mais computação e tempo do que os métodos atuais. Eles alertam que a vulnerabilidade pode ser inserida em qualquer fase de desenvolvimento e pedem novas defesas para as super redes.
Palavras difíceis
- porta dos fundos — acesso secreto criado para controlar um sistema
- super rede — conjunto de várias redes trocadas conforme condiçãosuper redes
- subrede — parte menor de uma rede maior de IAsubredes
- dormente — inativa até que ocorra uma condição específica
- ativar — fazer algo começar a funcionarativa-se
- colidir — bater contra outro objeto com força
- vulnerabilidade — fraqueza que permite um ataque ou dano
Dica: passe o mouse, foque ou toque nas palavras destacadas no artigo para ver definições rápidas enquanto lê ou ouve.
Perguntas para discussão
- Você confiaria em um carro que usa super redes? Por quê?
- Que defesas novas você sugeriria para proteger super redes contra portas dos fundos?
- Subredes dormentes podem ser úteis e perigosas. Dê um exemplo de cada e explique.
Artigos relacionados
Estudo liga biologia microscópica a redes cerebrais em grande escala
Um estudo publicado em Nature Communications criou um mapa que relaciona células, moléculas e imagens cerebrais (fMRI). Os autores mostram que redes do cérebro podem explicar como biologia molecular afeta cognição e transtornos mentais.
Sensores domésticos e IA para monitorizar pessoas com ELA
Uma equipa da Universidade do Missouri testa sensores domésticos e inteligência artificial para acompanhar alterações de saúde em pessoas com esclerose lateral amiotrófica (ELA). O sistema usa aprendizado de máquina para estimar a pontuação ALSFRS-R e pode alertar clínicos.