I modelli linguistici cambiano giudizio se conoscono l'autore ^{CEFR B1}

Uno studio dell'University of Zurich, condotto da Federico Germani e Giovanni Spitale, ha analizzato come l'identità dell'autore influenzi i giudizi dei grandi modelli linguistici. I ricercatori hanno fatto generare a ogni modello 50 enunciati su 24 argomenti controversi e poi hanno chiesto ai modelli di valutare gli stessi enunciati attribuendoli a fonti diverse. In totale sono state raccolte 192’000 valutazioni.

Con testi senza indicazione dell'autore, l'accordo tra i sistemi superava il 90% su tutti gli argomenti. Quando invece i testi venivano attribuiti a persone di alcune nazionalità o ad altre AI, l'accordo è calato bruscamente. È emerso un pregiudizio anti‑cinese in tutti i modelli, incluso Deepseek, che è cinese. Su questioni geopolitiche come la sovranità di Taiwan, Deepseek ha ridotto l'accordo fino al 75%.

I ricercatori avvertono che questi pregiudizi nascosti possono influenzare la moderazione dei contenuti, le assunzioni, le revisioni accademiche e il giornalismo. Per questo chiedono più trasparenza e regole, e suggeriscono di usare gli LLM come assistenti del ragionamento, non come giudici.