Gli strumenti di intelligenza artificiale stanno crescendo rapidamente e, mentre alcuni hanno molti utenti, emergono anche danni dovuti al bias. Resoconti recenti indicano che sistemi faziosi hanno portato a trattamenti medici differenti e discriminazioni nelle selezioni del personale.
Una ricerca dell'University of Texas at Austin, guidata da Hüseyin Tanriverdi, ha analizzato un insieme di 363 algoritmi che altri avevano identificato come faziosi, presi dall'archivio AI Algorithmic and Automation Incidents and Controversies. I ricercatori hanno confrontato ogni algoritmo problematico con un algoritmo simile non segnalato e hanno esaminato anche le organizzazioni che li usavano.
Lo studio individua tre fattori che aumentano il rischio di risultati ingiusti: mancanza di una verità di base chiara, la semplificazione della complessità del mondo reale (con omissione di variabili importanti) e il limitato coinvolgimento di gruppi diversi. Per ridurre il bias servono più trasparenza e input diversificati dagli sviluppatori.
Parole difficili
- bias — pregiudizio che causa risultati non equi
- algoritmo — programma matematico che prende decisioni o calcolialgoritmi
- fazioso — che mostra preferenza ingiusta verso qualcunofaziosi
- discriminazione — trattamento ingiusto di persone per un motivodiscriminazioni
- trasparenza — chiarezza sulle azioni e sulle decisioni
- coinvolgimento — partecipazione o presenza attiva di persone
Suggerimento: passa il mouse o tocca le parole evidenziate nell’articolo per vedere definizioni rapide mentre leggi o ascolti.
Domande di discussione
- Cosa pensi della richiesta di più trasparenza negli strumenti di intelligenza artificiale? Perché?
- Come potrebbe il coinvolgimento di gruppi diversi migliorare i risultati degli algoritmi? Spiega in poche frasi.
- Se dovessi usare uno strumento con IA al lavoro, quali informazioni vorresti sapere prima di iniziare a usarlo?
Articoli correlati
Database nazionale dei prelievi d'acqua negli Stati Uniti
Due ricercatori della Virginia Tech hanno creato il primo database nazionale sui prelievi d'acqua negli Stati Uniti. La risorsa, pubblicata su Nature Scientific Data, è disponibile al pubblico e contiene milioni di record standardizzati.
Kanzi, il bonobo che gioca a fare finta
Ricercatori hanno mostrato che un bonobo può immaginare oggetti e partecipare a giochi di finzione. I risultati, pubblicati su Science, provengono da tre esperimenti controllati su un singolo bonobo e suggeriscono origini antiche di questa capacità.
Tagli agli aiuti e rischio per i servizi sanitari nel 2025
Nel 2025 grandi tagli agli aiuti internazionali hanno ridotto servizi sanitari e umanitari in molti paesi a basso e medio reddito. La sospensione di fondi da parte degli USA e tagli di altri paesi hanno causato interruzioni immediate e vulnerabilità diffuse.
