Uno studio dell'University of Zurich, condotto da Federico Germani e Giovanni Spitale, ha analizzato come l'identità dell'autore influenzi i giudizi dei grandi modelli linguistici. I ricercatori hanno fatto generare a ogni modello 50 enunciati su 24 argomenti controversi e poi hanno chiesto ai modelli di valutare gli stessi enunciati attribuendoli a fonti diverse. In totale sono state raccolte 192’000 valutazioni.
Con testi senza indicazione dell'autore, l'accordo tra i sistemi superava il 90% su tutti gli argomenti. Quando invece i testi venivano attribuiti a persone di alcune nazionalità o ad altre AI, l'accordo è calato bruscamente. È emerso un pregiudizio anti‑cinese in tutti i modelli, incluso Deepseek, che è cinese. Su questioni geopolitiche come la sovranità di Taiwan, Deepseek ha ridotto l'accordo fino al 75%.
I ricercatori avvertono che questi pregiudizi nascosti possono influenzare la moderazione dei contenuti, le assunzioni, le revisioni accademiche e il giornalismo. Per questo chiedono più trasparenza e regole, e suggeriscono di usare gli LLM come assistenti del ragionamento, non come giudici.
Parole difficili
- pregiudizio — Giudizio negativo basato su stereotipi.pregiudizi
- trasparenza — Chiarezza nelle informazioni e nei processi.
- governance — Sistema di controllo e gestione.
- fidarsi — Avere fiducia in qualcuno o qualcosa.
- valutare — Esaminare o giudicare qualcosa.valutano
- ricerca — Studio approfondito di un argomento.
- modelli — Rappresentazioni o esempi di un concetto.
Suggerimento: passa il mouse o tocca le parole evidenziate nell’articolo per vedere definizioni rapide mentre leggi o ascolti.
Domande di discussione
- Qual è l'importanza della trasparenza nell'AI?
- In che modo i pregiudizi nei modelli possono influenzare la società?
- Pensi che i LLM possano sostituire il ragionamento umano?
- Come potrebbero essere migliorati i modelli linguistici per ridurre i pregiudizi?
Articoli correlati
Centri dati negli USA: effetti sulle contee
Uno studio del Georgia Tech analizza come l'apertura di centri dati negli Stati Uniti influenzi contee locali: occupazione, salari, imprese e prezzi dell'elettricità. I benefici sono modesti e concentrati soprattutto nelle aree metropolitane.
Una nuova cassetta per la fermentazione del cacao a Kasawo
A Kasawo, a nord di Kampala, una cassetta singola per la fermentazione del cacao migliora la qualità dei semi e aumenta i ricavi degli agricoltori. Il progetto è più accessibile e favorisce vendite dirette ed esportazioni.
Bambini in Camerun imparano programmazione e robotica
Durante le vacanze estive molte famiglie in Camerun iscrivono i figli a corsi di programmazione, robotica e intelligenza artificiale. I campi estivi includono dimostrazioni, progetti pratici e avviano club tecnologici nelle scuole.