Ricercatori di Brown University hanno studiato se i moderni modelli di linguaggio capiscono il mondo reale. Il lavoro è stato presentato all'International Conference on Learning Representations a Rio de Janeiro, Brasile.
Per testare questa idea il gruppo ha proposto frasi con livelli diversi di plausibilità, per esempio: "Qualcuno ha raffreddato una bevanda con il ghiaccio", "...con la neve", "...con il fuoco" e "...con ieri". Hanno usato l'interpretabilità meccanicistica per vedere cosa succede negli stati interni del modello.
Gli esperimenti usavano modelli open-source come GPT-2, Llama 3.2 e Gemma 2. I modelli grandi mostravano segnali interni che corrispondevano ai giudizi umani e riflettevano incertezza su enunciati ambigui.
Parole difficili
- ricercatore — persona che fa studi scientificiRicercatori
- modello — programma o sistema che simula il linguaggiomodelli
- plausibilità — quanto qualcosa sembra probabile o sensato
- interpretabilità meccanicistica — metodo per capire cosa succede dentro un modello
- stato — condizione interna di un sistema o modellostati
- incertezza — mancanza di certezza su un fatto o idea
Suggerimento: passa il mouse o tocca le parole evidenziate nell’articolo per vedere definizioni rapide mentre leggi o ascolti.
Domande di discussione
- Credi che i modelli di linguaggio possano capire il mondo reale? Perché?
- Hai mai usato un modello come GPT-2 o Llama? Cosa hai provato?
- Quale delle frasi d'esempio ti sembra più plausibile: con il ghiaccio, con la neve, con il fuoco o con ieri? Spiega.
Articoli correlati
Agricoltori del Malawi sperimentano fertilizzante organico
Nel distretto di Mzimba i contadini affrontano calo delle rese e costi alti del fertilizzante. Ricercatori hanno creato un fertilizzante organico con frass di mosca soldato nera, biochar e fondi di caffè e formano gli agricoltori.
Disuguaglianza e pandemie: le idee di Matthew M. Kavanagh
Matthew M. Kavanagh avverte che la disuguaglianza aumenta la vulnerabilità alle pandemie. Propone misure su debito, finanziamenti, condivisione tecnologica e politiche sociali per fermare le epidemie oltre i progressi scientifici.
