Una investigación publicada en Nature Neuroscience explora si el cerebro predice palabras como los grandes modelos de lenguaje (LLMs). Los autores concluyen que el cerebro utiliza unidades lingüísticas mayores al anticipar palabras y no se limita a predecir solo la siguiente palabra. El coautor David Poeppel explica que, mientras los LLMs se entrenan para la siguiente palabra, el cerebro agrupa palabras en frases.
El estudio incluyó experimentos con hablantes de mandarín y registró la actividad con magnetoencefalografía (MEG). También se realizaron pruebas Cloze, en las que se eliminan palabras y los participantes rellenan los huecos, y se analizaron datos cerebrales de pacientes en inglés para comprobar la validez entre idiomas.
Los investigadores usaron modelos para calcular entropía y sorpresa. Por ejemplo, la palabra tras «Vi un» tiene mayor entropía que la tras «Me senté en un», y «gato» resulta más sorpresiva tras «Me senté en un» que tras «Vi un». Compararon estas predicciones con las respuestas cerebrales y hallaron que la reacción depende de la posición en la estructura gramatical, lo que indica sensibilidad a los constituyentes.
Palabras difíciles
- predecir — Decir o estimar algo antes de que ocurra.predice
- anticipar — Esperar o prever algo antes de suceder.
- constituyente — Parte de una frase o estructura gramatical.constituyentes
- entropía — Medida de incertidumbre en una predicción.
- sorpresa — Reacción ante algo inesperado o improbable.
- magnetoencefalografía — Técnica que registra actividad magnética cerebral.
Consejo: pasa el cursor, enfoca o toca las palabras resaltadas en el artículo para ver definiciones rápidas mientras lees o audicións.
Preguntas de discusión
- ¿Cómo crees que agrupar palabras en frases ayuda a la comprensión del lenguaje?
- ¿Has hecho alguna vez ejercicios similares a las pruebas Cloze? ¿Te resultaron útiles?
- Si los modelos de lenguaje imitaran más al cerebro, ¿qué cambios piensas que deberían tener?
Artículos relacionados
El cerebro se prepara horas después de una infección lejana
Investigadores hallaron que el cerebro activa genes antivirales pocas horas después de una infección lejos de la cabeza. En ratones, señales desde el tejido infectado y la barrera hematoencefálica inician una respuesta que puede proteger al cerebro.
Repensar lo humano en la inteligencia artificial
La artista Xonorika Kira critica la idea de 'centrar lo humano' en la inteligencia artificial porque excluye otras formas de conocimiento. Propone reconocer la interdependencia entre especies, tecnologías y planetas y cambiar cómo se usan datos y modelos.
Un estudio encuentra sesgos en consejos de IA cuando se revela el autismo
Investigadores de Virginia Tech analizaron cómo cambian las recomendaciones de grandes modelos de lenguaje cuando los usuarios dicen que son autistas. Hallaron que muchas respuestas reflejan estereotipos y piden más transparencia y control en los sistemas de IA.
Campaña 'Stop AI Theft' pide protección para creadores
Artistas, periodistas y trabajadores culturales aborígenes de Australia lanzaron la campaña "Stop AI Theft" porque dicen que la inteligencia artificial usa su obra sin permiso. Exigen compensación, transparencia y cambios legales; el gobierno mantuvo protecciones de derechos de autor.