Ricercatori di Brown University hanno studiato se i moderni modelli di linguaggio capiscono il mondo reale. Il lavoro è stato presentato all'International Conference on Learning Representations a Rio de Janeiro, Brasile.
Per testare questa idea il gruppo ha proposto frasi con livelli diversi di plausibilità, per esempio: "Qualcuno ha raffreddato una bevanda con il ghiaccio", "...con la neve", "...con il fuoco" e "...con ieri". Hanno usato l'interpretabilità meccanicistica per vedere cosa succede negli stati interni del modello.
Gli esperimenti usavano modelli open-source come GPT-2, Llama 3.2 e Gemma 2. I modelli grandi mostravano segnali interni che corrispondevano ai giudizi umani e riflettevano incertezza su enunciati ambigui.
Parole difficili
- ricercatore — persona che fa studi scientificiRicercatori
- modello — programma o sistema che simula il linguaggiomodelli
- plausibilità — quanto qualcosa sembra probabile o sensato
- interpretabilità meccanicistica — metodo per capire cosa succede dentro un modello
- stato — condizione interna di un sistema o modellostati
- incertezza — mancanza di certezza su un fatto o idea
Suggerimento: passa il mouse o tocca le parole evidenziate nell’articolo per vedere definizioni rapide mentre leggi o ascolti.
Domande di discussione
- Credi che i modelli di linguaggio possano capire il mondo reale? Perché?
- Hai mai usato un modello come GPT-2 o Llama? Cosa hai provato?
- Quale delle frasi d'esempio ti sembra più plausibile: con il ghiaccio, con la neve, con il fuoco o con ieri? Spiega.
Articoli correlati
Una mappa biologica collega cellule e reti cerebrali
Un nuovo studio su Nature Communications combina immagini cerebrali, dati genetici e mappe molecolari per mostrare come l’organizzazione cellulare sostenga le reti viste con la fMRI. I risultati possono aiutare a capire depressione, schizofrenia e Alzheimer.
I modelli linguistici cambiano giudizio se conoscono l'autore
Ricercatori dell'University of Zurich mostrano che i grandi modelli linguistici valutano diversamente lo stesso testo quando viene indicata l'identità dell'autore. Lo studio rileva pregiudizi nascosti, incluso un forte bias anti‑cinese.
L'IA può apprendere valori culturali osservando le persone
Uno studio della University of Washington ha testato se l'intelligenza artificiale può imparare valori culturali osservando il comportamento umano. Agenti addestrati su dati di due gruppi hanno mostrato differenze nel comportamento altruistico.
Una nuova cassetta per la fermentazione del cacao a Kasawo
A Kasawo, a nord di Kampala, una cassetta singola per la fermentazione del cacao migliora la qualità dei semi e aumenta i ricavi degli agricoltori. Il progetto è più accessibile e favorisce vendite dirette ed esportazioni.
Come le relazioni influenzano i ricordi d'infanzia
Uno studio della Michigan State University su quasi 1,000 giovani adulti emergenti mostra che i ricordi di esperienze avverse dell'infanzia sono per lo più stabili, ma variano quando cambia la qualità delle relazioni, soprattutto con i genitori.