Una investigación publicada en Nature Neuroscience explora si el cerebro predice palabras como los grandes modelos de lenguaje (LLMs). Los autores concluyen que el cerebro utiliza unidades lingüísticas mayores al anticipar palabras y no se limita a predecir solo la siguiente palabra. El coautor David Poeppel explica que, mientras los LLMs se entrenan para la siguiente palabra, el cerebro agrupa palabras en frases.
El estudio incluyó experimentos con hablantes de mandarín y registró la actividad con magnetoencefalografía (MEG). También se realizaron pruebas Cloze, en las que se eliminan palabras y los participantes rellenan los huecos, y se analizaron datos cerebrales de pacientes en inglés para comprobar la validez entre idiomas.
Los investigadores usaron modelos para calcular entropía y sorpresa. Por ejemplo, la palabra tras «Vi un» tiene mayor entropía que la tras «Me senté en un», y «gato» resulta más sorpresiva tras «Me senté en un» que tras «Vi un». Compararon estas predicciones con las respuestas cerebrales y hallaron que la reacción depende de la posición en la estructura gramatical, lo que indica sensibilidad a los constituyentes.
Palabras difíciles
- predecir — Decir o estimar algo antes de que ocurra.predice
- anticipar — Esperar o prever algo antes de suceder.
- constituyente — Parte de una frase o estructura gramatical.constituyentes
- entropía — Medida de incertidumbre en una predicción.
- sorpresa — Reacción ante algo inesperado o improbable.
- magnetoencefalografía — Técnica que registra actividad magnética cerebral.
Consejo: pasa el cursor, enfoca o toca las palabras resaltadas en el artículo para ver definiciones rápidas mientras lees o escuchas.
Preguntas de discusión
- ¿Cómo crees que agrupar palabras en frases ayuda a la comprensión del lenguaje?
- ¿Has hecho alguna vez ejercicios similares a las pruebas Cloze? ¿Te resultaron útiles?
- Si los modelos de lenguaje imitaran más al cerebro, ¿qué cambios piensas que deberían tener?
Artículos relacionados
IA ayuda a detectar melanoma con imágenes 3D
Investigadores de la University of Missouri prueban si la inteligencia artificial puede ayudar a detectar el melanoma mediante el análisis de fotografías 3D de la piel. La IA sería una herramienta de apoyo para identificar casos que requieren atención médica.
IA local para reducir la violencia de género en América Latina
Grupos de América Latina desarrollan inteligencia artificial abierta y local para estudiar y reducir la violencia y las desigualdades de género. Herramientas como AymurAI buscan datos en documentos judiciales y protegen información sensible.
