L'IA può apprendere valori culturali osservando le persone ^{CEFR B2}

I sistemi di intelligenza artificiale possono assorbire i valori presenti nei dati di addestramento, e questi valori variano tra culture diverse. Una ricerca della University of Washington ha verificato se l'IA può apprendere valori culturali osservando il comportamento umano, in modo analogo a come imparano i bambini; i risultati sono pubblicati su PLOS One.

I ricercatori hanno reclutato 190 adulti che si identificavano come bianchi e 110 che si identificavano come latini. Hanno addestrato agenti separati usando inverse reinforcement learning (IRL), un approccio in cui l'IA osserva le azioni umane per inferire gli obiettivi e le ricompense che le motivano. Gli autori sostengono che l'IRL si avvicina al modo in cui i genitori modellano il comportamento dei figli, come osserva il coautore Andrew Meltzoff.

Nel principale esperimento i partecipanti hanno giocato a una versione modificata del videogioco Overcooked: era possibile cedere cipolle per aiutare un altro giocatore, ma ciò riduceva il numero di zuppe consegnate. Il gruppo identificato come latino ha aiutato più spesso del gruppo bianco, e l'agente addestrato sui dati latini ha mostrato tendenze simili, compresa una maggiore propensione a donare denaro in un secondo test. Gli autori, tra cui Rajesh Rao, osservano che non si dovrebbe imporre un unico insieme di valori alle IA e che servono più dati specifici per cultura, ulteriori gruppi di riferimento e studi su valori in competizione e casi del mondo reale. Altri coautori provengono dalla UW e dalla San Diego State University.