Una ricerca pubblicata su Nature Neuroscience confronta la previsione del linguaggio nel cervello con le previsioni dei grandi modelli linguistici, detti LLM. Gli autori, tra cui David Poeppel, spiegano che il cervello anticipa le parole raggruppando le parole in blocchi grammaticali, o costituenti, anziché prevedere solo la singola parola successiva.
Lo studio ha usato magnetoencefalografia (MEG) e test Cloze con parlanti di mandarino, e ha analizzato dati addizionali su pazienti esposti all'inglese. I ricercatori hanno calcolato l'entropia e il surprisal con gli LLM: l'entropia indica quante parole sono possibili nel contesto, il surprisal indica quanto una parola è inattesa.
Se il cervello funzionasse come un LLM, le correlazioni con le previsioni dei modelli sarebbero uniformi. Invece, il cervello reagisce diversamente a seconda della posizione della parola nella struttura grammaticale, mostrando sensibilità ai costituenti. I risultati sollevano nuove domande sul rapporto tra processi cerebrali e modelli computazionali.
Parole difficili
- costituente — gruppo di parole con funzione grammaticalecostituenti
- entropia — misura di quante parole possibili
- surprisal — misura di quanto una parola è inattesa
- magnetoencefalografia — tecnica che misura l'attività magnetica cerebrale
- cloze — test in cui si completa un testo con parole
- correlazione — relazione statistica tra due misure o piùcorrelazioni
Suggerimento: passa il mouse o tocca le parole evidenziate nell’articolo per vedere definizioni rapide mentre leggi o ascolti.
Domande di discussione
- Pensi che i modelli linguistici dovrebbero imparare a usare i costituenti come il cervello? Perché?
- Come potrebbe influire la differenza tra cervello e LLM sulla traduzione automatica o sull'insegnamento delle lingue?
- Hai mai fatto un test Cloze o un esercizio di completamento? Racconta la tua esperienza.
Articoli correlati
Dire di essere autistico cambia i consigli dell'IA
Uno studio della Virginia Tech, presentato alla conferenza CHI, mostra che rivelare l'autismo modifica i suggerimenti dei grandi modelli linguistici, spesso seguendo stereotipi comuni. I ricercatori chiedono maggiore trasparenza nei sistemi IA.
IA per la salute sessuale in America Latina
Gruppi e ricercatori in America Latina usano l'intelligenza artificiale per offrire informazioni sulla salute sessuale e riproduttiva a giovani e persone emarginate. Progetti in Perù e Argentina cercano di ridurre barriere linguistiche e stigma.
Indonesia rafforza le regole per le piattaforme digitali
Il governo indonesiano intensifica la regolazione delle piattaforme digitali, chiedendo trasparenza sugli algoritmi e imponendo registrazioni, rimozioni e multe. La scelta ha provocato controversie, proteste e critiche sulla chiarezza delle norme.
Un modello fisico per immagini di risonanza magnetica più nitide
Ricercatori della Rice University e dell'Oak Ridge National Laboratory hanno sviluppato un nuovo quadro fisico che collega il moto molecolare ai segnali MRI e migliora la descrizione del rilassamento NMR nei liquidi.
