Investigadores de ciberseguridad de Georgia Tech descubrieron una vulnerabilidad llamada VillainNet que afecta a las superredes de IA en sistemas de conducción autónoma. David Oygenblik, estudiante de doctorado y responsable principal, explicó que las superredes intercambian pequeñas subredes según la tarea, como conducir con lluvia o cambiar de carril.
El equipo comprobó que un atacante puede ocultar una puerta trasera dentro de una subred concreta. Esa puerta trasera permanece latente hasta que se selecciona la subred específica; entonces VillainNet se activa y puede apoderarse del vehículo. Los investigadores describen un ejemplo práctico: un taxi autónomo que responde a lluvia y a cambios en la calzada.
En los experimentos, los ataques activados tuvieron una tasa de éxito del 99% y la puerta trasera seguía invisible dentro del sistema. El estudio advierte que la amenaza puede introducirse en cualquier fase del desarrollo y pide desarrollar nuevas defensas y medidas de seguridad para superredes.
Palabras difíciles
- vulnerabilidad — fallo o debilidad que permite un ataque
- superred — modelo grande que contiene muchas subredessuperredes
- subred — parte más pequeña de una superredsubredes
- puerta trasera — código oculto que permite control no autorizado
- latente — presente pero inactivo hasta una condición
- activar — hacer que algo comience a funcionaractivados
- defensa — medida para proteger sistemas o datosdefensas
Consejo: pasa el cursor, enfoca o toca las palabras resaltadas en el artículo para ver definiciones rápidas mientras lees o audicións.
Preguntas de discusión
- ¿Te preocupa que un atacante pueda controlar vehículos autónomos? ¿Por qué?
- ¿Qué medidas crees que podrían ayudar a proteger las superredes en coches autónomos?
- Si viajaras en un taxi autónomo, ¿qué información sobre su seguridad querrías recibir antes del viaje?
Artículos relacionados
Repensar lo humano en la inteligencia artificial
La artista Xonorika Kira critica la idea de 'centrar lo humano' en la inteligencia artificial porque excluye otras formas de conocimiento. Propone reconocer la interdependencia entre especies, tecnologías y planetas y cambiar cómo se usan datos y modelos.
La complejidad del mundo real produce sesgo en la IA
Un estudio de la Universidad de Texas en Austin concluye que una causa importante del sesgo en la inteligencia artificial es la incapacidad para modelar la complejidad del mundo real. Identifica tres factores que aumentan ese riesgo.