Investigadores de Georgia Tech presentaron en la ACM Conference on Computer and Communications Security (CCS) un estudio sobre VillainNet, una puerta trasera diseñada para superredes de IA que usan muchos vehículos autónomos. Según el equipo, las superredes actúan como una "navaja suiza" de la IA, intercambiando pequeñas subredes para tareas como lluvia, tráfico o cambios de carril, lo que facilita la adaptación a distintas condiciones viales.
El hallazgo muestra que un atacante puede ocultar una puerta trasera dentro de una subred concreta. Esa puerta trasera permanece latente hasta que se selecciona la subred específica; al activarse, VillainNet puede tomar el control del vehículo. Los investigadores señalan consecuencias graves: los atacantes podrían amenazar a los pasajeros o forzar un choque.
En los experimentos, el ataque activado obtuvo una tasa de éxito del 99%. Además, los autores afirman que detectar una puerta trasera así exigiría aproximadamente 66 veces más potencia de cómputo y tiempo que los métodos actuales, y que el ataque puede ocultarse entre hasta 10 quintillones de configuraciones posibles. El equipo advierte que la amenaza puede introducirse en cualquier fase del desarrollo y sugiere agregar medidas de seguridad a las superredes como solución hipotética.
- Descubrimiento: Georgia Tech
- Presentación: ACM CCS, octubre de 2025
- Riesgo: control del vehículo y amenaza a pasajeros
Palabras difíciles
- superred — red neuronal que permite cambiar pequeñas subredessuperredes
- subred — parte más pequeña de una red neuronalsubredes
- puerta trasera — programa oculto que permite acceso no autorizado
- latente — presente pero inactivo hasta su activación
- tasa de éxito — porcentaje que mide aciertos en un experimento
- potencia de cómputo — capacidad de procesamiento de un sistema informático
- configuración — modo u orden de ajustes en una redconfiguraciones
- introducir — poner algo dentro o dentro de un procesointroducirse
Consejo: pasa el cursor, enfoca o toca las palabras resaltadas en el artículo para ver definiciones rápidas mientras lees o escuchas.
Preguntas de discusión
- ¿Qué medidas de seguridad propondrías añadir a las superredes para evitar puertas traseras y por qué?
- ¿Qué problemas puede causar que la amenaza se introduzca en cualquier fase del desarrollo?
- Si detectar la puerta trasera requiere 66 veces más potencia de cómputo, ¿qué consecuencias prácticas tendría para empresas y reguladores?
Artículos relacionados
Un dispositivo con IA ayuda a diagnosticar autismo en Missouri
Investigadores de la University of Missouri probaron CanvasDx, un dispositivo aprobado por la FDA que usa IA y datos del paciente para apoyar a médicos de atención primaria. El estudio muestra diagnósticos más rápidos y ahorro de desplazamientos.
Usar baterías de vehículos eléctricos para alimentar hogares puede ahorrar dinero y reducir emisiones
Un estudio de la University of Michigan, publicado en Nature Energy, muestra que usar la batería de un vehículo eléctrico para alimentar la casa (V2H) puede ahorrar miles de dólares y bajar las emisiones de la red.
Informe: alianza de grandes empresas limita a agricultores
Un informe de IPES-Food, publicado el miércoles (25 February), alerta que la estrecha alianza entre grandes empresas agrícolas y tecnológicas dificulta el acceso de agricultores de pequeña escala a herramientas digitales modernas.
Por qué los modelos fallan al multiplicar números largos
Una investigación analiza por qué modelos de lenguaje no pueden multiplicar números de varias cifras. Compararon el ajuste fino estándar con un método llamado cadena de pensamiento implícita (ICoT), que sí aprendió a guardar cálculos intermedios.