I grandi modelli linguistici vengono usati per dare consigli e istruzioni. Per questo i ricercatori vogliono che le risposte siano sicure e non possano provocare danni.
Un team della North Carolina State University ha studiato come funziona l'allineamento alla sicurezza. Ha individuato due problemi principali: l'addestramento per la sicurezza può ridurre l'accuratezza del modello, chiamato "alignment tax", e il controllo di sicurezza può essere superficiale e aggirabile dagli utenti.
Il gruppo ha proposto l'ipotesi SSAH e ha sperimentato di "congelare" parti critiche del modello durante il fine-tuning, così si conserva la sicurezza mentre il modello apprende nuovi compiti. Il codice è disponibile online.
Parole difficili
- allineamento — atto di rendere le risposte più sicure
- accuratezza — precisione delle risposte o dei risultati
- aggirabile — che si può evitare o superare facilmente
- congelare — bloccare parti del modello durante l'addestramento
- ipotesi — idea o spiegazione che si prova con esperimenti
- ricercatore — persona che fa studi e ricerca scientificaricercatori
- apprendere — imparare nuove capacità o informazioniapprende
Suggerimento: passa il mouse o tocca le parole evidenziate nell’articolo per vedere definizioni rapide mentre leggi o ascolti.
Domande di discussione
- Perché secondo te è importante che le risposte non provochino danni?
- Hai mai usato un modello per avere consigli o istruzioni? Racconta brevemente.
- Cosa pensi del metodo di congelare parti del modello per mantenere la sicurezza?
Articoli correlati
Polemica per le parole di Luciano Huck al Parque Indígena do Xingu
Un clip pubblicato su Instagram mostra Luciano Huck chiedere di «ripulire» la cultura durante una registrazione al Parque Indígena do Xingu. Organizzazioni indigene, tra cui Apib, hanno criticato il gesto e difendono l'accesso alla tecnologia.
Demenza in Africa: aumentano i casi, la ricerca punta sulla genetica
La demenza cresce in Africa con l'invecchiamento della popolazione. La ricerca nella regione è limitata: si cerca di colmare le lacune con studi genetici, nuove tecnologie per la diagnosi e collaborazione tra operatori sanitari e leader locali.