Uma equipa de segurança da Georgia Tech descobriu VillainNet, uma porta dos fundos que explora as chamadas "super redes" de IA usadas em sistemas de condução autônoma. As super redes funcionam trocando subredes pequenas conforme muda o tempo ou o trânsito, por exemplo para lidar com chuva ou mudanças de faixa. David Oygenblik, doutorando e investigador principal, explicou que as redes foram pensadas como um "canivete suíço" de ferramentas de IA.
Segundo o estudo, um atacante pode ocultar uma porta dos fundos dentro de uma subrede que permanece dormente até uma condição muito específica. Quando essa subrede é selecionada, VillainNet ativa-se e pode tomar o controle do veículo, ameaçar passageiros e forçar o carro a colidir. Em experiências, o ataque teve 99% de sucesso após a ativação, e a porta ficou invisível dentro do sistema completo de IA.
Os autores afirmam que detectar essa ameaça exigiria muito mais computação e tempo do que os métodos atuais. Eles alertam que a vulnerabilidade pode ser inserida em qualquer fase de desenvolvimento e pedem novas defesas para as super redes.
Palavras difíceis
- porta dos fundos — acesso secreto criado para controlar um sistema
- super rede — conjunto de várias redes trocadas conforme condiçãosuper redes
- subrede — parte menor de uma rede maior de IAsubredes
- dormente — inativa até que ocorra uma condição específica
- ativar — fazer algo começar a funcionarativa-se
- colidir — bater contra outro objeto com força
- vulnerabilidade — fraqueza que permite um ataque ou dano
Dica: passe o mouse, foque ou toque nas palavras destacadas no artigo para ver definições rápidas enquanto lê ou ouve.
Perguntas para discussão
- Você confiaria em um carro que usa super redes? Por quê?
- Que defesas novas você sugeriria para proteger super redes contra portas dos fundos?
- Subredes dormentes podem ser úteis e perigosas. Dê um exemplo de cada e explique.
Artigos relacionados
Sudão recorre à inteligência artificial para ajudar a saúde em guerra
O sistema de saúde do Sudão está sob forte pressão após quase dois anos de guerra. Autoridades dizem que a inteligência artificial pode ajudar onde faltam médicos e suprimentos, mas pedem mais apoio e profissionais.
Nano‑OLEDs do ETH Zurich com pixels menores que células
Pesquisadores do ETH Zurich fabricaram OLEDs em escala nanométrica com pixels de até 100 nanômetros e demonstraram um logótipo de 2.800 nano‑pixels. O trabalho saiu na revista Nature Photonics e aponta aplicações em ecrãs e microscopia.
Nova IA ajuda estudantes de medicina a praticar sutura
Pesquisadores da Johns Hopkins criaram uma ferramenta de inteligência artificial explicável que orienta estudantes de medicina na prática de sutura. O sistema dá feedback personalizado por mensagem de texto; estudo com 12 alunos mostrou mais ganho entre os mais experientes.