Un team della New York University, guidato da Anasse Bari con il coautore Binxu Huang, ha presentato un quadro algoritmico pubblicato su Frontiers in Artificial Intelligence. Il sistema è una fase di pre-elaborazione pensata per fornire ai modelli linguistici di grandi dimensioni (LLM) un input più conciso e rappresentativo, così da ridurre le informazioni false dette "allucinazioni".
Nel primo stadio le frasi del documento vengono pulite e mantenute nei termini essenziali; inoltre i termini composti restano uniti. Ogni frase è convertita in un vettore numerico che fonde caratteristiche lessicali, semantiche e tematiche. Le frasi ricevono punteggi per centralità a livello di documento, importanza nella sezione e allineamento con l'abstract; il metodo aumenta il punteggio per sezioni chiave come Introduction, Results e Conclusion.
Nella fase successiva si applicano i principi degli stormi: coesione, allineamento e separazione. Leader e follower emergono nei gruppi e da ogni stormo si selezionano le frasi con punteggio più alto. Le frasi scelte vengono riordinate e passate a un LLM che sintetizza un riassunto fedele al materiale sorgente. I test su oltre 9,000 documenti hanno mostrato una maggiore accuratezza fattuale rispetto agli LLM senza il quadro. Bari sottolinea che il sistema è una pre-elaborazione e non un concorrente degli LLM, e che il metodo può ridurre il rischio di allucinazioni ma non lo elimina.
Parole difficili
- quadro — sistema o insieme organizzato di elementi
- pre-elaborazione — lavoro fatto prima per preparare dati
- allucinazione — informazione falsa prodotta da un modelloallucinazioni
- vettore — sequenza numerica che rappresenta una frase
- centralità — importanza di una frase nel documento
- coesione — grado di unione tra elementi di un gruppo
- stormo — gruppo di elementi che si muove insiemestormi
- sintetizzare — riassumere informazioni principali in forma brevesintetizza
Suggerimento: passa il mouse o tocca le parole evidenziate nell’articolo per vedere definizioni rapide mentre leggi o ascolti.
Domande di discussione
- Pensi che una fase di pre-elaborazione come questa potrebbe aiutare quando scrivi riassunti o ricerche? Perché?
- Quale dei principi degli stormi (coesione, allineamento, separazione) ti sembra più utile per scegliere frasi importanti? Spiega brevemente.
- Il testo dice che il metodo può ridurre le allucinazioni ma non eliminarle. Quali limiti o problemi prevedi per questo approccio?
Articoli correlati
Ana María Cetto e la scienza aperta
Ana María Cetto, fisica messicana, è stata nominata presidente del Comitato Direttivo sulla Scienza Aperta dell'UNESCO. Promuove la scienza aperta per rendere più accessibili dati e risultati e per combattere la privatizzazione della conoscenza.
Pinguini usati per monitorare le PFAS in Patagonia
Ricercatori hanno applicato anelli in silicone a pinguini di Magellano lungo la costa patagonica per rilevare PFAS, comprese sostanze di sostituzione come GenX. Il metodo è minimamente invasivo e aiuta a tracciare inquinamento in acque remote.
NeuroBridge: intelligenza artificiale per capire la comunicazione autistica
Ricercatori di Tufts hanno creato NeuroBridge, uno strumento di intelligenza artificiale che aiuta le persone non autistiche a comprendere e adattare la propria comunicazione verso persone autistiche. Lo strumento mostra alternative di risposta e ha ricevuto riscontri positivi.