Uno studio mostra perché i modelli linguistici falliscono sulla moltiplicazione a quattro cifre. I ricercatori hanno confrontato la messa a punto standard con un metodo chiamato Implicit Chain of Thought (ICoT). Hanno studiato il problema delle dipendenze a lungo raggio, cioè la necessità di mantenere prodotti parziali e somme progressive.
Sotto la messa a punto standard, modelli con 2–12 livelli hanno ottenuto meno dell'1% di accuratezza. Invece il modello addestrato con ICoT ha risolto il compito. I ricercatori hanno poi aggiunto un obiettivo che insegna a tracciare le somme progressive e hanno migliorato molto anche i modelli semplici.
Parole difficili
- modello — programma che usa dati per fare previsionimodelli
- messa a punto — procedura per adattare o migliorare un sistema
- moltiplicazione — operazione matematica per calcolare prodotti
- dipendenza — relazione dove una parte dipende da un'altradipendenze
- prodotti parziali — risultati intermedi durante un calcolo più grande
- accuratezza — misura di quanto una risposta è corretta
Suggerimento: passa il mouse o tocca le parole evidenziate nell’articolo per vedere definizioni rapide mentre leggi o ascolti.
Domande di discussione
- Perché secondo te una moltiplicazione a quattro cifre è difficile per un modello?
- Hai mai fatto moltiplicazioni lunghe a mano o con la calcolatrice? Come ti senti quando le fai?
- Preferiresti un modello che spiega i passaggi (come tracciare somme progressive)? Perché?
Articoli correlati
Medicina alternativa e sopravvivenza nel cancro al seno
Uno studio su oltre 2 milioni di pazienti segnala che l'uso di medicina complementare e alternativa è associato a una minore sopravvivenza nel cancro al seno. Anche la combinazione con terapie tradizionali ha mostrato esiti peggiori.
Tessuto simile al cervello senza materiali animali
Per la prima volta, ricercatori hanno fatto crescere tessuto funzionale simile al cervello senza usare rivestimenti di origine animale. Hanno usato una impalcatura di polietilenglicole con pori che supportano la crescita cellulare.