Gli strumenti di intelligenza artificiale stanno crescendo rapidamente e, mentre alcuni hanno molti utenti, emergono anche danni dovuti al bias. Resoconti recenti indicano che sistemi faziosi hanno portato a trattamenti medici differenti e discriminazioni nelle selezioni del personale.
Una ricerca dell'University of Texas at Austin, guidata da Hüseyin Tanriverdi, ha analizzato un insieme di 363 algoritmi che altri avevano identificato come faziosi, presi dall'archivio AI Algorithmic and Automation Incidents and Controversies. I ricercatori hanno confrontato ogni algoritmo problematico con un algoritmo simile non segnalato e hanno esaminato anche le organizzazioni che li usavano.
Lo studio individua tre fattori che aumentano il rischio di risultati ingiusti: mancanza di una verità di base chiara, la semplificazione della complessità del mondo reale (con omissione di variabili importanti) e il limitato coinvolgimento di gruppi diversi. Per ridurre il bias servono più trasparenza e input diversificati dagli sviluppatori.
Parole difficili
- bias — pregiudizio che causa risultati non equi
- algoritmo — programma matematico che prende decisioni o calcolialgoritmi
- fazioso — che mostra preferenza ingiusta verso qualcunofaziosi
- discriminazione — trattamento ingiusto di persone per un motivodiscriminazioni
- trasparenza — chiarezza sulle azioni e sulle decisioni
- coinvolgimento — partecipazione o presenza attiva di persone
Suggerimento: passa il mouse o tocca le parole evidenziate nell’articolo per vedere definizioni rapide mentre leggi o ascolti.
Domande di discussione
- Cosa pensi della richiesta di più trasparenza negli strumenti di intelligenza artificiale? Perché?
- Come potrebbe il coinvolgimento di gruppi diversi migliorare i risultati degli algoritmi? Spiega in poche frasi.
- Se dovessi usare uno strumento con IA al lavoro, quali informazioni vorresti sapere prima di iniziare a usarlo?
Articoli correlati
Cattura del carbonio per ridurre le emissioni dei data center USA
Uno studio su Energy & Fuels mostra che la crescita dei data center negli Stati Uniti può aumentare molto le emissioni. La ricerca indica che la cattura e lo stoccaggio del carbonio potrebbero ridurre gran parte di queste emissioni.
JWST crea una mappa dettagliata della rete cosmica
Il James Webb Space Telescope ha permesso di mappare la rete cosmica con dettaglio inedito usando il sondaggio COSMOS‑Web. La mappa copre gran parte della storia dell’universo e include un grande catalogo di galassie e dati pubblici.
Tre redazioni, l'AI e la serie "Don’t ask AI, ask a peer"
Tre organizzazioni di diritti umani discutono come rispondere all'uso crescente dell'intelligenza artificiale. Avviano la serie "Don’t ask AI, ask a peer" per valorizzare la creatività, la condivisione tra pari e il lavoro umano.