Hersenen voorspellen woorden met grammaticale groepen ^{CEFR B2}

Veel mensen vergelijken de werking van grote taalmodellen (LLM's) met menselijke taalverwerking. Nieuw onderzoek, gepubliceerd in Nature Neuroscience, onderzoekt die vergelijking nauwkeurig en komt tot een belangrijke conclusie: het menselijke brein voorspelt komende woorden op basis van grotere, grammaticaal georganiseerde eenheden, zogenaamde constituenten, en niet uitsluitend via kansberekening van het volgende woord.

De studie omvatte meerdere experimenten met moedertaalsprekers van het Mandarijn en gebruikte magneto-encefalografie (MEG) om hersenactiviteit te registreren. Deelnemers voerden ook Cloze-tests uit, waarbij woorden uit teksten werden weggehaald en ingevuld. Verder analyseerde het team extra hersengegevens van patiënten die met het Engels werden geconfronteerd, om te onderzoeken of de bevindingen over talen heen gelden.

De onderzoekers gebruikten LLM's om woordvoorspelbaarheid te kwantificeren met entropie en surprisal. Entropie geeft aan hoeveel mogelijke volgende woorden de context toelaat; surprisal meet hoe onverwacht een woord is in die context. Bijvoorbeeld, na “Ik zag een” is de entropie hoger dan na “Ik zat op een”, en het woord “kat” heeft een hogere surprisal na “Ik zat op een”.

• Hersenreacties werden vergeleken met LLM-voorspellingen voor dezelfde zinnen.
• Als het brein werkte als een LLM, zouden correlaties overal sterk zijn.
• In plaats daarvan varieerde de respons met de positie binnen de grammatische structuur.

De auteurs concluderen dat menselijke voorspelling wordt afgestemd door grammaticaal georganiseerde brokken; LLM's tonen deze gevoeligheid voor constituentstructuur niet. Coauteur David Poeppel vat het samen: terwijl LLM's geoptimaliseerd zijn om het volgende woord te voorspellen, maakt het menselijke brein voorspellingen door woorden grammaticaal in zinnen te groeperen. De resultaten roepen nieuwe vragen op over de relatie tussen hersenprocessen en computationele modellen.