Una investigación publicada en Nature Neuroscience explora si el cerebro predice palabras como los grandes modelos de lenguaje (LLMs). Los autores concluyen que el cerebro utiliza unidades lingüísticas mayores al anticipar palabras y no se limita a predecir solo la siguiente palabra. El coautor David Poeppel explica que, mientras los LLMs se entrenan para la siguiente palabra, el cerebro agrupa palabras en frases.
El estudio incluyó experimentos con hablantes de mandarín y registró la actividad con magnetoencefalografía (MEG). También se realizaron pruebas Cloze, en las que se eliminan palabras y los participantes rellenan los huecos, y se analizaron datos cerebrales de pacientes en inglés para comprobar la validez entre idiomas.
Los investigadores usaron modelos para calcular entropía y sorpresa. Por ejemplo, la palabra tras «Vi un» tiene mayor entropía que la tras «Me senté en un», y «gato» resulta más sorpresiva tras «Me senté en un» que tras «Vi un». Compararon estas predicciones con las respuestas cerebrales y hallaron que la reacción depende de la posición en la estructura gramatical, lo que indica sensibilidad a los constituyentes.
Palabras difíciles
- predecir — Decir o estimar algo antes de que ocurra.predice
- anticipar — Esperar o prever algo antes de suceder.
- constituyente — Parte de una frase o estructura gramatical.constituyentes
- entropía — Medida de incertidumbre en una predicción.
- sorpresa — Reacción ante algo inesperado o improbable.
- magnetoencefalografía — Técnica que registra actividad magnética cerebral.
Consejo: pasa el cursor, enfoca o toca las palabras resaltadas en el artículo para ver definiciones rápidas mientras lees o audicións.
Preguntas de discusión
- ¿Cómo crees que agrupar palabras en frases ayuda a la comprensión del lenguaje?
- ¿Has hecho alguna vez ejercicios similares a las pruebas Cloze? ¿Te resultaron útiles?
- Si los modelos de lenguaje imitaran más al cerebro, ¿qué cambios piensas que deberían tener?
Artículos relacionados
La “respiración” de las baterías reduce su vida útil
Investigadores hallaron que la expansión y contracción en cada ciclo de carga y descarga causa tensiones internas, llamadas degradación quimomecánica y "cascadas de tensión", que acortan la vida de las baterías. El estudio fue publicado en Science.
La compresión cerebral por tumores daña neuronas
Investigadores de la Universidad de Notre Dame muestran que la compresión crónica del cerebro, como la provocada por un glioblastoma, activa vías de muerte neuronal y respuestas inflamatorias. Los hallazgos apuntan a posibles dianas para reducir la pérdida neuronal.
Muchos no tienen una conexión a internet decente
Un informe dice que una conexión a internet decente está fuera del alcance de la mayoría en países de ingresos bajos y medios. La «conectividad significativa» incluye 4G, teléfono inteligente y uso diario en el hogar, la escuela o el trabajo.
