Il cervello predice parole usando gruppi grammaticali ^{CEFR B2}

Una nuova ricerca su Nature Neuroscience suggerisce che, quando anticipa parole, il cervello usa unità linguistiche più ampie dei singoli termini: i costituenti grammaticali. «Mentre i modelli linguistici di grandi dimensioni sono addestrati e ottimizzati per prevedere la parola successiva, il cervello umano fa previsioni raggruppando grammaticalmente le parole in frasi», spiega il coautore David Poeppel.

Gli autori hanno condotto diversi esperimenti con parlanti di mandarino e hanno registrato l'attività cerebrale con magnetoencefalografia (MEG). Hanno anche impiegato test di Cloze, in cui parole vengono rimosse da brani e i partecipanti devono completare gli spazi vuoti, e hanno analizzato dati cerebrali aggiuntivi di pazienti esposti all'inglese per verificare la validità attraverso le lingue.

I ricercatori hanno utilizzato grandi modelli linguistici per misurare la prevedibilità calcolando entropia e surprisal. L'entropia indica quante parole diverse sono possibili in un dato contesto (per esempio «Ho visto un» offre più possibilità), mentre il surprisal misura quanto una parola è inattesa in quel contesto (la parola «gatto» può essere più inattesa dopo «Mi sono seduto su un»).

Confrontando risposte cerebrali e previsioni dei modelli per le stesse frasi, gli scienziati hanno osservato che il cervello non si comporta come un LLM: la correlazione varia in base alla posizione della parola nella struttura grammaticale. Lo studio conclude che la previsione umana è modulata da blocchi grammaticali, non solo dalla probabilità della parola successiva, e apre nuove questioni su come processi cerebrali e modelli computazionali siano collegati.