Un estudio publicado en Nature Neuroscience investiga si los procesos de predicción del lenguaje en el cerebro se asemejan a los de los grandes modelos de lenguaje (LLMs). Los autores encuentran que la predicción humana está modulada por fragmentos organizados gramaticalmente: el cerebro anticipa grupos o constituyentes, no únicamente la siguiente palabra. El coautor David Poeppel resume que, mientras los LLMs se optimizan para la siguiente palabra, el cerebro hace predicciones agrupando palabras en frases.
La investigación combinó varios métodos. Se realizaron experimentos con hablantes de mandarín y se registró la actividad cerebral con magnetoencefalografía (MEG). También se aplicaron pruebas Cloze, en las que se ocultan palabras para que los participantes las rellenen, y se analizaron datos de pacientes expuestos al inglés para comprobar la aplicación entre idiomas. Además, se emplearon LLMs para cuantificar predictibilidad mediante entropía y sorpresa.
- Entropía: el contexto admite muchas palabras posibles (p. ej. tras «Vi un»).
- Sorpresa: una palabra es inesperada en el contexto (p. ej. «gato» tras «Me senté en un»).
Al comparar las predicciones de los modelos con las respuestas cerebrales, los autores observaron que, si el cerebro funcionara igual que un LLM, las correlaciones serían uniformemente altas. Sin embargo, la actividad cerebral varía según la posición de la palabra en la estructura gramatical, lo que sugiere sensibilidad a constituyentes. Los resultados plantean nuevas preguntas sobre cómo se relacionan los modelos computacionales y los procesos cerebrales del lenguaje.
Palabras difíciles
- predicción — Proceso de anticipar información futura en lenguaje.predicciones
- constituyente — Unidad lingüística formada por varias palabras.constituyentes
- magnetoencefalografía — Técnica que registra actividad magnética cerebral.
- entropía — Medida de cuántas continuaciones son posibles.
- sorpresa — Grado de inesperado de una palabra.
- correlación — Relación estadística entre dos señales o variables.correlaciones
- predictibilidad — Facilidad para anticipar qué palabra seguirá.
Consejo: pasa el cursor, enfoca o toca las palabras resaltadas en el artículo para ver definiciones rápidas mientras lees o audicións.
Preguntas de discusión
- ¿Qué limitaciones tienen, según el artículo, los grandes modelos de lenguaje para explicar los procesos cerebrales del lenguaje? Da razones basadas en el texto.
- ¿Por qué crees que los autores usaron hablantes de mandarín y datos de pacientes en inglés? ¿Qué aporta esa diversidad de idiomas a los resultados?
- Si el cerebro anticipa constituyentes y no solo la siguiente palabra, ¿qué implicaciones podría tener eso para la enseñanza de lenguas o para diseñar modelos de IA?
Artículos relacionados
Nuevas herramientas digitales dan más control a los agricultores
En el foro virtual ICTforAg (9-10 de marzo) expertos explicaron que tecnologías como Web3 y herramientas como FarmStack pueden dar a los agricultores más control sobre sus datos y mejorar servicios en países en desarrollo.
La compresión cerebral por tumores daña neuronas
Investigadores de la Universidad de Notre Dame muestran que la compresión crónica del cerebro, como la provocada por un glioblastoma, activa vías de muerte neuronal y respuestas inflamatorias. Los hallazgos apuntan a posibles dianas para reducir la pérdida neuronal.
Centros de datos y criptominería podrían aumentar precios y emisiones para 2030
Un estudio advierte que el crecimiento de centros de datos y la minería de criptomonedas puede elevar el costo de la electricidad y las emisiones en Estados Unidos hacia 2030. Los investigadores modelaron la respuesta del sistema eléctrico ante esa demanda.