Investigadores estudiaron si los modelos de lenguaje por IA entienden la plausibilidad de sucesos. Encontraron vectores internos que distinguen entre hechos comunes, sucesos improbables, imposibles y enunciados sin sentido, y que coinciden con juicios humanos.
Foto de Zach M, Unsplash
Investigadores alertan que el «vibe coding» y herramientas generativas de IA están liberando código vulnerable. El Vibe Security Radar de Georgia Tech analizó miles de avisos y ha confirmado casos con fallos de seguridad.
Investigadores de la University of Utah proponen un marco para medir cuánto del trabajo terapéutico puede automatizarse con IA conversacional. Clasifican cuatro niveles de automatización y analizan beneficios, riesgos y responsabilidades.
Investigadores de Virginia Tech analizaron cómo cambian las recomendaciones de grandes modelos de lenguaje cuando los usuarios dicen que son autistas. Hallaron que muchas respuestas reflejan estereotipos y piden más transparencia y control en los sistemas de IA.
Investigadores adaptaron patrones de bandadas de aves para preprocesar textos largos antes de pasarlos a modelos de lenguaje. El método selecciona oraciones representativas y reduce la redundancia, lo que mejora la exactitud factual de los resúmenes.
Investigadores de North Carolina State University estudiaron cómo mejorar el alineamiento de seguridad en modelos de lenguaje grande. Identificaron neuronas clave y probaron congelarlas al afinar para reducir salidas inseguras sin perder rendimiento.
