Investigadores de ciberseguridad de Georgia Tech descubrieron una vulnerabilidad llamada VillainNet que afecta a las superredes de IA en sistemas de conducción autónoma. David Oygenblik, estudiante de doctorado y responsable principal, explicó que las superredes intercambian pequeñas subredes según la tarea, como conducir con lluvia o cambiar de carril.
El equipo comprobó que un atacante puede ocultar una puerta trasera dentro de una subred concreta. Esa puerta trasera permanece latente hasta que se selecciona la subred específica; entonces VillainNet se activa y puede apoderarse del vehículo. Los investigadores describen un ejemplo práctico: un taxi autónomo que responde a lluvia y a cambios en la calzada.
En los experimentos, los ataques activados tuvieron una tasa de éxito del 99% y la puerta trasera seguía invisible dentro del sistema. El estudio advierte que la amenaza puede introducirse en cualquier fase del desarrollo y pide desarrollar nuevas defensas y medidas de seguridad para superredes.
Palabras difíciles
- vulnerabilidad — fallo o debilidad que permite un ataque
- superred — modelo grande que contiene muchas subredessuperredes
- subred — parte más pequeña de una superredsubredes
- puerta trasera — código oculto que permite control no autorizado
- latente — presente pero inactivo hasta una condición
- activar — hacer que algo comience a funcionaractivados
- defensa — medida para proteger sistemas o datosdefensas
Consejo: pasa el cursor, enfoca o toca las palabras resaltadas en el artículo para ver definiciones rápidas mientras lees o audicións.
Preguntas de discusión
- ¿Te preocupa que un atacante pueda controlar vehículos autónomos? ¿Por qué?
- ¿Qué medidas crees que podrían ayudar a proteger las superredes en coches autónomos?
- Si viajaras en un taxi autónomo, ¿qué información sobre su seguridad querrías recibir antes del viaje?
Artículos relacionados
Centros de datos en Indonesia y la presión sobre el agua
El rápido crecimiento de centros de datos en Indonesia, impulsado por la IA, plantea preocupaciones sobre el uso del agua. En Batam la demanda de refrigeración y protestas locales muestran la tensión entre desarrollo y suministro hídrico.
Mejorar la seguridad en modelos de lenguaje
Investigadores de North Carolina State University estudiaron cómo mejorar el alineamiento de seguridad en modelos de lenguaje grande. Identificaron neuronas clave y probaron congelarlas al afinar para reducir salidas inseguras sin perder rendimiento.