Federico Germani e Giovanni Spitale hanno testato quattro LLM molto usati: OpenAI o3-mini, Deepseek Reasoner, xAI Grok 2 e Mistral. Ogni modello ha generato 50 enunciati su 24 argomenti controversi e poi ha valutato quegli enunciati in condizioni diverse.
Quando non si indicava l'autore, l'accordo tra i modelli superava il 90% su tutti gli argomenti. Ma quando i ricercatori hanno attribuito i testi a persone di certe nazionalità o ad altre AI, l'accordo è sceso molto. È emerso un bias anti-cinese anche in Deepseek, che è cinese. Su un tema come Taiwan, l'accordo di Deepseek è sceso al 75%.
I ricercatori avvertono che questi pregiudizi possono influenzare la moderazione, le assunzioni e il giornalismo. Raccomandano trasparenza e che gli LLM assistano il ragionamento, non lo sostituiscano. La ricerca è apparsa in Science Advances.
Parole difficili
- giudizio — Opinione o valutazione su qualcosa.giudizi
- modelli — Esempi o sistemi per capire qualcosa.
- ricercatori — Persone che studiano o indagano su un argomento.
- scrivere — Mettere parole su carta o schermo.scritto
- nazionalità — Origine o appartenenza a un paese.
- problema — Situazione difficile da risolvere.
Suggerimento: passa il mouse o tocca le parole evidenziate nell’articolo per vedere definizioni rapide mentre leggi o ascolti.
Domande di discussione
- Qual è l'importanza di avere informazioni sull'autore?
- Come pensi che l'AI influisca sulle opinioni dei lettori?
- È giusto fidarsi di modelli linguistici? Perché?
Articoli correlati
Perché l'intelligenza artificiale produce risultati ingiusti
Una ricerca dell'University of Texas at Austin indica che molti bias nell'intelligenza artificiale nascono perché i modelli non catturano la complessità del mondo reale. Lo studio individua tre fattori che aumentano il rischio di risultati ingiusti.
Neuroni nuovi scavano tunnel nel cervello degli uccelli
Uno studio della Boston University mostra che nei fringuelli zebra i nuovi neuroni scavano tunnel attraverso il tessuto cerebrale maturo. I risultati potrebbero aiutare la ricerca su riparazione cerebrale e possibili terapie umane.
AI e disinformazione nelle elezioni in Bangladesh
Il 12 febbraio il Bangladesh ha tenuto un'elezione dopo una grande sollevazione studentesca del luglio 2024. Durante la campagna l'intelligenza artificiale ha generato immagini e video falsi che hanno diffuso notizie e citazioni inventate.
Nuova mappa del ciclo cellulare di Toxoplasma apre possibilità terapeutiche
Ricercatori hanno adattato un sistema di imaging fluorescente per osservare la crescita di Toxoplasma gondii in tempo reale e mappare il suo ciclo cellulare, per cercare nuovi punti deboli e testare farmaci.
