Investigadores de Georgia Tech presentaron en la ACM Conference on Computer and Communications Security (CCS) un estudio sobre VillainNet, una puerta trasera diseñada para superredes de IA que usan muchos vehículos autónomos. Según el equipo, las superredes actúan como una "navaja suiza" de la IA, intercambiando pequeñas subredes para tareas como lluvia, tráfico o cambios de carril, lo que facilita la adaptación a distintas condiciones viales.
El hallazgo muestra que un atacante puede ocultar una puerta trasera dentro de una subred concreta. Esa puerta trasera permanece latente hasta que se selecciona la subred específica; al activarse, VillainNet puede tomar el control del vehículo. Los investigadores señalan consecuencias graves: los atacantes podrían amenazar a los pasajeros o forzar un choque.
En los experimentos, el ataque activado obtuvo una tasa de éxito del 99%. Además, los autores afirman que detectar una puerta trasera así exigiría aproximadamente 66 veces más potencia de cómputo y tiempo que los métodos actuales, y que el ataque puede ocultarse entre hasta 10 quintillones de configuraciones posibles. El equipo advierte que la amenaza puede introducirse en cualquier fase del desarrollo y sugiere agregar medidas de seguridad a las superredes como solución hipotética.
- Descubrimiento: Georgia Tech
- Presentación: ACM CCS, octubre de 2025
- Riesgo: control del vehículo y amenaza a pasajeros
Palabras difíciles
- superred — red neuronal que permite cambiar pequeñas subredessuperredes
- subred — parte más pequeña de una red neuronalsubredes
- puerta trasera — programa oculto que permite acceso no autorizado
- latente — presente pero inactivo hasta su activación
- tasa de éxito — porcentaje que mide aciertos en un experimento
- potencia de cómputo — capacidad de procesamiento de un sistema informático
- configuración — modo u orden de ajustes en una redconfiguraciones
- introducir — poner algo dentro o dentro de un procesointroducirse
Consejo: pasa el cursor, enfoca o toca las palabras resaltadas en el artículo para ver definiciones rápidas mientras lees o escuchas.
Preguntas de discusión
- ¿Qué medidas de seguridad propondrías añadir a las superredes para evitar puertas traseras y por qué?
- ¿Qué problemas puede causar que la amenaza se introduzca en cualquier fase del desarrollo?
- Si detectar la puerta trasera requiere 66 veces más potencia de cómputo, ¿qué consecuencias prácticas tendría para empresas y reguladores?
Artículos relacionados
IA para salud sexual y reproductiva en América Latina
Grupos en América Latina usan inteligencia artificial para dar información sobre salud sexual y reproductiva. Proyectos en Perú y Argentina buscan llegar a jóvenes, comunidades indígenas y personas trans, y también hay advertencias sobre sesgos y daños.
