Uno studio pubblicato su PNAS Nexus esamina come risposte ordinarie di chatbot basati su grandi modelli linguistici possano influenzare opinioni sociali e politiche. Gli autori partono dall'ipotesi che bias latenti introdotti durante l'addestramento degli LLM possano imprimere piccole differenze nell'inquadratura delle narrazioni, anche quando le informazioni sono corrette.
Il lavoro, con primo autore Matthew Shu (Yale College, classe 2025) e autore senior Daniel Karell (Yale), ha testato due eventi del XX secolo: lo sciopero generale di Seattle, una sospensione del lavoro di cinque giorni nel febbraio 1919, e le proteste studentesche della Third World Liberation Front nel 1968. In totale 1.912 partecipanti hanno letto riassunti prodotti da GPT-4o, le voci corrispondenti di Wikipedia o riassunti creati dal team con uninquadratura liberale o conservatrice.
I risultati indicano che, rispetto a Wikipedia, i riassunti AI di default e quelli con inquadratura liberale tendevano a spingere opinioni verso posizioni piliberali, mentre i riassunti con inquadratura conservatrice produssero opinioni piconservatrici rispetto a Wikipedia. Gli autori sottolineano che lo spostamento liberale dei riassunti di default suggerisce l'esistenza di bias latenti negli LLM; gli effetti complessivi restano modesti, con uno spostamento limitato da posizioni moderate a posizioni leggermente pipiestreme.
Analisi aggiuntive mostrarono che la cornice liberale aumentava opinioni liberali in tutti i gruppi, mentre quella conservatrice aveva effetti statisticamente significativi solo tra i partecipanti che si identificavano come conservatori. Il team ipotizza che la cornice conservatrice derivi principalmente dal prompting, mentre la cornice liberale possa provenire sia da bias latenti sia dal prompting. Gli autori concludono che, poichlo sviluppo dei chatbot
Parole difficili
- latente — presente ma non immediatamente evidentelatenti
- inquadratura — modo di presentare o organizzare un raccontoinquadratura delle narrazioni, inquadratura liberale, inquadratura conservatrice
- riassunto — versione breve che riporta le informazioni principaliriassunti
- prompting — istruzioni date a un modello per ottenere risposte
- significativo — che mostra una differenza rilevante nei datistatisticamente significativi
- spostamento — cambiamento di posizione o opinione rispetto a primaspostamento liberale, spostamento limitato
Suggerimento: passa il mouse o tocca le parole evidenziate nell’articolo per vedere definizioni rapide mentre leggi o ascolti.
Domande di discussione
- In che modo la presenza di bias latenti negli LLM potrebbe influenzare l'informazione politica online? Fai riferimenti al testo.
- Perché, secondo gli autori, la cornice liberale potrebbe derivare sia da bias latenti sia dal prompting, mentre quella conservatrice principalmente dal prompting?
- Quali interventi pratici suggeriresti per ridurre l'influenza di inquadrature involontarie nei riassunti generati dall'intelligenza artificiale?
Articoli correlati
Braccio robotico gonfiabile per aiutare la raccolta di mele
Coltivatori di frutta nello Stato di Washington affrontano una mancanza di lavoratori. Ricercatori della Washington State University hanno creato un braccio robotico gonfiabile e a basso costo per aiutare nella raccolta e in altri compiti nei frutteti.
I capelli come archivio dell'esposizione chimica
Una ricerca dell'University of Texas at Austin mostra che i capelli possono registrare l'esposizione a sostanze chimiche per giorni, settimane e mesi. Il metodo analizza ciocche integre e ha rilevato oltre mille composti, inclusi ftalati.