I modelli linguistici artificiali giudicano i testi in modo diverso a seconda dell'autore ^{CEFR B1}

I modelli linguistici artificiali (LLM) influenzano il loro giudizio in base all'identità dell'autore. Uno studio condotto da ricercatori dell'Università di Zurigo ha rivelato che i LLM valutano i testi in modo diverso se sanno il paese d'origine dell'autore. Quando gli autori sono identificati come cinesi, i modelli mostrano un netto pregiudizio, anche a fronte di argomentazioni logiche e ben scritte.

Inoltre, i risultati indicano che i LLM tendono a fidarsi più degli autori umani rispetto ad altri modelli AI. Questa scoperta suggerisce una diffidenza intrinseca nei confronti dei contenuti generati dalle macchine. La ricerca solleva preoccupazioni su come i modelli linguistici possano influenzare decisioni in ambiti sensibili come la moderazione dei contenuti e le assunzioni.

Per prevenire la diffusione di pregiudizi nascosti, è fondamentale implementare trasparenza e governance nel modo in cui l'AI valuta le informazioni. Gli autori avvertono che i LLM devono essere strumenti di supporto al ragionamento umano, non sostituti del processo decisionale.