Uma equipa de segurança da Georgia Tech descobriu VillainNet, uma porta dos fundos que explora as chamadas "super redes" de IA usadas em sistemas de condução autônoma. As super redes funcionam trocando subredes pequenas conforme muda o tempo ou o trânsito, por exemplo para lidar com chuva ou mudanças de faixa. David Oygenblik, doutorando e investigador principal, explicou que as redes foram pensadas como um "canivete suíço" de ferramentas de IA.
Segundo o estudo, um atacante pode ocultar uma porta dos fundos dentro de uma subrede que permanece dormente até uma condição muito específica. Quando essa subrede é selecionada, VillainNet ativa-se e pode tomar o controle do veículo, ameaçar passageiros e forçar o carro a colidir. Em experiências, o ataque teve 99% de sucesso após a ativação, e a porta ficou invisível dentro do sistema completo de IA.
Os autores afirmam que detectar essa ameaça exigiria muito mais computação e tempo do que os métodos atuais. Eles alertam que a vulnerabilidade pode ser inserida em qualquer fase de desenvolvimento e pedem novas defesas para as super redes.
Palavras difíceis
- porta dos fundos — acesso secreto criado para controlar um sistema
- super rede — conjunto de várias redes trocadas conforme condiçãosuper redes
- subrede — parte menor de uma rede maior de IAsubredes
- dormente — inativa até que ocorra uma condição específica
- ativar — fazer algo começar a funcionarativa-se
- colidir — bater contra outro objeto com força
- vulnerabilidade — fraqueza que permite um ataque ou dano
Dica: passe o mouse, foque ou toque nas palavras destacadas no artigo para ver definições rápidas enquanto lê ou ouve.
Perguntas para discussão
- Você confiaria em um carro que usa super redes? Por quê?
- Que defesas novas você sugeriria para proteger super redes contra portas dos fundos?
- Subredes dormentes podem ser úteis e perigosas. Dê um exemplo de cada e explique.
Artigos relacionados
Redes sociais e desenvolvimento de leitura na adolescência
Pesquisa com mais de 10.000 jovens liga uso regular de redes sociais na primeira adolescência a desenvolvimento mais fraco de leitura e vocabulário. Estudo também aponta mudanças na atenção, benefícios de velocidade e recomendações para limitar o tempo de tela.
Não pergunte à IA, pergunte a um par
Editoras de três organizações de direitos humanos lançam a série "Não pergunte à IA, pergunte a um par" para valorizar criatividade humana, debater riscos e usos da inteligência artificial e fortalecer troca entre pares. Publicada ao longo de abril.
Bateria que usa bactérias do solo para gerar energia
Uma empresa derivada de uma universidade do Reino Unido criou a Bactery, uma bateria que usa microrganismos do solo para gerar eletricidade e alimentar sensores agrícolas. Testes-piloto no Brasil mostraram o conceito e a empresa planeia produção em pequena escala.
