Un estudio de la University of Washington dice que los navegadores con agentes de IA pueden crear riesgos de seguridad. Los investigadores muestran ataques de prueba y dos fallos técnicos importantes que permiten filtrar datos entre sitios.
Foto de Zoshua Colah, Unsplash
Un estudio publicado en Nature Communications presenta una prueba con inteligencia artificial que predice el riesgo de que vuelva el cáncer de mama. Los autores dicen que puede ser más rápida y barata que las pruebas genómicas actuales, pero hacen falta ensayos clínicos aleatorizados.
La inteligencia artificial ya está presente en muchas escuelas de Estados Unidos. Un estudio y la experiencia de docentes muestran beneficios para tareas rutinarias, pero también preocupación por las relaciones con los estudiantes y la equidad.
Investigadores estudiaron si los modelos de lenguaje por IA entienden la plausibilidad de sucesos. Encontraron vectores internos que distinguen entre hechos comunes, sucesos improbables, imposibles y enunciados sin sentido, y que coinciden con juicios humanos.
Investigadores alertan que el «vibe coding» y herramientas generativas de IA están liberando código vulnerable. El Vibe Security Radar de Georgia Tech analizó miles de avisos y ha confirmado casos con fallos de seguridad.
Investigadores de la University of Utah proponen un marco para medir cuánto del trabajo terapéutico puede automatizarse con IA conversacional. Clasifican cuatro niveles de automatización y analizan beneficios, riesgos y responsabilidades.
Investigadores de Virginia Tech analizaron cómo cambian las recomendaciones de grandes modelos de lenguaje cuando los usuarios dicen que son autistas. Hallaron que muchas respuestas reflejan estereotipos y piden más transparencia y control en los sistemas de IA.
Investigadores adaptaron patrones de bandadas de aves para preprocesar textos largos antes de pasarlos a modelos de lenguaje. El método selecciona oraciones representativas y reduce la redundancia, lo que mejora la exactitud factual de los resúmenes.
Investigadores de North Carolina State University estudiaron cómo mejorar el alineamiento de seguridad en modelos de lenguaje grande. Identificaron neuronas clave y probaron congelarlas al afinar para reducir salidas inseguras sin perder rendimiento.
