Ricercatori di Brown University hanno studiato se i moderni modelli di linguaggio capiscono il mondo reale. Il lavoro è stato presentato all'International Conference on Learning Representations a Rio de Janeiro, Brasile.
Per testare questa idea il gruppo ha proposto frasi con livelli diversi di plausibilità, per esempio: "Qualcuno ha raffreddato una bevanda con il ghiaccio", "...con la neve", "...con il fuoco" e "...con ieri". Hanno usato l'interpretabilità meccanicistica per vedere cosa succede negli stati interni del modello.
Gli esperimenti usavano modelli open-source come GPT-2, Llama 3.2 e Gemma 2. I modelli grandi mostravano segnali interni che corrispondevano ai giudizi umani e riflettevano incertezza su enunciati ambigui.
Parole difficili
- ricercatore — persona che fa studi scientificiRicercatori
- modello — programma o sistema che simula il linguaggiomodelli
- plausibilità — quanto qualcosa sembra probabile o sensato
- interpretabilità meccanicistica — metodo per capire cosa succede dentro un modello
- stato — condizione interna di un sistema o modellostati
- incertezza — mancanza di certezza su un fatto o idea
Suggerimento: passa il mouse o tocca le parole evidenziate nell’articolo per vedere definizioni rapide mentre leggi o ascolti.
Domande di discussione
- Credi che i modelli di linguaggio possano capire il mondo reale? Perché?
- Hai mai usato un modello come GPT-2 o Llama? Cosa hai provato?
- Quale delle frasi d'esempio ti sembra più plausibile: con il ghiaccio, con la neve, con il fuoco o con ieri? Spiega.
Articoli correlati
Disuguaglianza e pandemie: le idee di Matthew M. Kavanagh
Matthew M. Kavanagh avverte che la disuguaglianza aumenta la vulnerabilità alle pandemie. Propone misure su debito, finanziamenti, condivisione tecnologica e politiche sociali per fermare le epidemie oltre i progressi scientifici.
Integratori nella dieta aiutano la tilapia a sopportare il freddo
Ricercatori d'Egitto e delle Filippine hanno provato lecitina e gomma arabica nella dieta della tilapia. Hanno visto miglioramenti nella crescita, nella sopravvivenza e nelle difese antiossidanti, ma servono altri studi.
