Un estudio publicado en Nature Neuroscience investiga si los procesos de predicción del lenguaje en el cerebro se asemejan a los de los grandes modelos de lenguaje (LLMs). Los autores encuentran que la predicción humana está modulada por fragmentos organizados gramaticalmente: el cerebro anticipa grupos o constituyentes, no únicamente la siguiente palabra. El coautor David Poeppel resume que, mientras los LLMs se optimizan para la siguiente palabra, el cerebro hace predicciones agrupando palabras en frases.
La investigación combinó varios métodos. Se realizaron experimentos con hablantes de mandarín y se registró la actividad cerebral con magnetoencefalografía (MEG). También se aplicaron pruebas Cloze, en las que se ocultan palabras para que los participantes las rellenen, y se analizaron datos de pacientes expuestos al inglés para comprobar la aplicación entre idiomas. Además, se emplearon LLMs para cuantificar predictibilidad mediante entropía y sorpresa.
- Entropía: el contexto admite muchas palabras posibles (p. ej. tras «Vi un»).
- Sorpresa: una palabra es inesperada en el contexto (p. ej. «gato» tras «Me senté en un»).
Al comparar las predicciones de los modelos con las respuestas cerebrales, los autores observaron que, si el cerebro funcionara igual que un LLM, las correlaciones serían uniformemente altas. Sin embargo, la actividad cerebral varía según la posición de la palabra en la estructura gramatical, lo que sugiere sensibilidad a constituyentes. Los resultados plantean nuevas preguntas sobre cómo se relacionan los modelos computacionales y los procesos cerebrales del lenguaje.
Palabras difíciles
- predicción — Proceso de anticipar información futura en lenguaje.predicciones
- constituyente — Unidad lingüística formada por varias palabras.constituyentes
- magnetoencefalografía — Técnica que registra actividad magnética cerebral.
- entropía — Medida de cuántas continuaciones son posibles.
- sorpresa — Grado de inesperado de una palabra.
- correlación — Relación estadística entre dos señales o variables.correlaciones
- predictibilidad — Facilidad para anticipar qué palabra seguirá.
Consejo: pasa el cursor, enfoca o toca las palabras resaltadas en el artículo para ver definiciones rápidas mientras lees o escuchas.
Preguntas de discusión
- ¿Qué limitaciones tienen, según el artículo, los grandes modelos de lenguaje para explicar los procesos cerebrales del lenguaje? Da razones basadas en el texto.
- ¿Por qué crees que los autores usaron hablantes de mandarín y datos de pacientes en inglés? ¿Qué aporta esa diversidad de idiomas a los resultados?
- Si el cerebro anticipa constituyentes y no solo la siguiente palabra, ¿qué implicaciones podría tener eso para la enseñanza de lenguas o para diseñar modelos de IA?
Artículos relacionados
IA ayuda a detectar melanoma con imágenes 3D
Investigadores de la University of Missouri prueban si la inteligencia artificial puede ayudar a detectar el melanoma mediante el análisis de fotografías 3D de la piel. La IA sería una herramienta de apoyo para identificar casos que requieren atención médica.
IA local para reducir la violencia de género en América Latina
Grupos de América Latina desarrollan inteligencia artificial abierta y local para estudiar y reducir la violencia y las desigualdades de género. Herramientas como AymurAI buscan datos en documentos judiciales y protegen información sensible.