Una investigación publicada en Nature Neuroscience explora si el cerebro predice palabras como los grandes modelos de lenguaje (LLMs). Los autores concluyen que el cerebro utiliza unidades lingüísticas mayores al anticipar palabras y no se limita a predecir solo la siguiente palabra. El coautor David Poeppel explica que, mientras los LLMs se entrenan para la siguiente palabra, el cerebro agrupa palabras en frases.
El estudio incluyó experimentos con hablantes de mandarín y registró la actividad con magnetoencefalografía (MEG). También se realizaron pruebas Cloze, en las que se eliminan palabras y los participantes rellenan los huecos, y se analizaron datos cerebrales de pacientes en inglés para comprobar la validez entre idiomas.
Los investigadores usaron modelos para calcular entropía y sorpresa. Por ejemplo, la palabra tras «Vi un» tiene mayor entropía que la tras «Me senté en un», y «gato» resulta más sorpresiva tras «Me senté en un» que tras «Vi un». Compararon estas predicciones con las respuestas cerebrales y hallaron que la reacción depende de la posición en la estructura gramatical, lo que indica sensibilidad a los constituyentes.
Palabras difíciles
- predecir — Decir o estimar algo antes de que ocurra.predice
- anticipar — Esperar o prever algo antes de suceder.
- constituyente — Parte de una frase o estructura gramatical.constituyentes
- entropía — Medida de incertidumbre en una predicción.
- sorpresa — Reacción ante algo inesperado o improbable.
- magnetoencefalografía — Técnica que registra actividad magnética cerebral.
Consejo: pasa el cursor, enfoca o toca las palabras resaltadas en el artículo para ver definiciones rápidas mientras lees o audicións.
Preguntas de discusión
- ¿Cómo crees que agrupar palabras en frases ayuda a la comprensión del lenguaje?
- ¿Has hecho alguna vez ejercicios similares a las pruebas Cloze? ¿Te resultaron útiles?
- Si los modelos de lenguaje imitaran más al cerebro, ¿qué cambios piensas que deberían tener?
Artículos relacionados
Inflamación y preferencia por redes sociales
Un estudio dirigido por David Lee muestra que niveles más altos de inflamación, medidos con proteína C reactiva (CRP), se asocian con preferir redes sociales en vez de encuentros presenciales, sobre todo en personas introvertidas o neuróticas.
Imágenes cerebrales revelan cambios en respondedores del WTC con PTSD
Un estudio con resonancia magnética encontró diferencias estructurales en el cerebro de respondedores del WTC con trastorno de estrés postraumático. Los hallazgos usan el contraste gris-blanco (GWC) y podrían ayudar al diagnóstico y tratamiento.