#Inteligencia Artificial24
La inteligencia artificial en las escuelas de EE. UU.
La inteligencia artificial ya está presente en muchas escuelas de Estados Unidos. Un estudio y la experiencia de docentes muestran beneficios para tareas rutinarias, pero también preocupación por las relaciones con los estudiantes y la equidad.
Foto de National Cancer Institute, Unsplash
Modelos de IA distinguen sucesos reales y improbables
Investigadores estudiaron si los modelos de lenguaje por IA entienden la plausibilidad de sucesos. Encontraron vectores internos que distinguen entre hechos comunes, sucesos improbables, imposibles y enunciados sin sentido, y que coinciden con juicios humanos.
Radar detecta código inseguro creado por IA llamado «vibe coding»
Investigadores alertan que el «vibe coding» y herramientas generativas de IA están liberando código vulnerable. El Vibe Security Radar de Georgia Tech analizó miles de avisos y ha confirmado casos con fallos de seguridad.
Marco para evaluar la automatización de la terapia con IA
Investigadores de la University of Utah proponen un marco para medir cuánto del trabajo terapéutico puede automatizarse con IA conversacional. Clasifican cuatro niveles de automatización y analizan beneficios, riesgos y responsabilidades.
Un estudio encuentra sesgos en consejos de IA cuando se revela el autismo
Investigadores de Virginia Tech analizaron cómo cambian las recomendaciones de grandes modelos de lenguaje cuando los usuarios dicen que son autistas. Hallaron que muchas respuestas reflejan estereotipos y piden más transparencia y control en los sistemas de IA.
Patrones de bandadas reducen errores de la IA en resúmenes
Investigadores adaptaron patrones de bandadas de aves para preprocesar textos largos antes de pasarlos a modelos de lenguaje. El método selecciona oraciones representativas y reduce la redundancia, lo que mejora la exactitud factual de los resúmenes.
Mejorar la seguridad en modelos de lenguaje
Investigadores de North Carolina State University estudiaron cómo mejorar el alineamiento de seguridad en modelos de lenguaje grande. Identificaron neuronas clave y probaron congelarlas al afinar para reducir salidas inseguras sin perder rendimiento.