Gli strumenti di intelligenza artificiale stanno crescendo rapidamente e, mentre alcuni hanno molti utenti, emergono anche danni dovuti al bias. Resoconti recenti indicano che sistemi faziosi hanno portato a trattamenti medici differenti e discriminazioni nelle selezioni del personale.
Una ricerca dell'University of Texas at Austin, guidata da Hüseyin Tanriverdi, ha analizzato un insieme di 363 algoritmi che altri avevano identificato come faziosi, presi dall'archivio AI Algorithmic and Automation Incidents and Controversies. I ricercatori hanno confrontato ogni algoritmo problematico con un algoritmo simile non segnalato e hanno esaminato anche le organizzazioni che li usavano.
Lo studio individua tre fattori che aumentano il rischio di risultati ingiusti: mancanza di una verità di base chiara, la semplificazione della complessità del mondo reale (con omissione di variabili importanti) e il limitato coinvolgimento di gruppi diversi. Per ridurre il bias servono più trasparenza e input diversificati dagli sviluppatori.
Parole difficili
- bias — pregiudizio che causa risultati non equi
- algoritmo — programma matematico che prende decisioni o calcolialgoritmi
- fazioso — che mostra preferenza ingiusta verso qualcunofaziosi
- discriminazione — trattamento ingiusto di persone per un motivodiscriminazioni
- trasparenza — chiarezza sulle azioni e sulle decisioni
- coinvolgimento — partecipazione o presenza attiva di persone
Suggerimento: passa il mouse o tocca le parole evidenziate nell’articolo per vedere definizioni rapide mentre leggi o ascolti.
Domande di discussione
- Cosa pensi della richiesta di più trasparenza negli strumenti di intelligenza artificiale? Perché?
- Come potrebbe il coinvolgimento di gruppi diversi migliorare i risultati degli algoritmi? Spiega in poche frasi.
- Se dovessi usare uno strumento con IA al lavoro, quali informazioni vorresti sapere prima di iniziare a usarlo?
Articoli correlati
L'intelligenza artificiale per proteggere i giovani dal tabacco
Alla conferenza di Dublino esperti hanno detto che l'AI può aiutare a impedire che le aziende del tabacco prendano di mira i giovani online. Hanno mostrato progetti e studi in diversi paesi e avvertito sui nuovi prodotti.
Molecole antiche dalle ossa rivelano clima e vita
Ricercatori hanno estratto metaboliti da ossa fossilizzate di 1,3–3 milioni di anni e li hanno analizzati con spettrometria di massa. Le molecole ricostruiscono animali, dieta e ambienti, indicando condizioni più calde e umide rispetto a oggi.