I sistemi di intelligenza artificiale possono assimilare i valori presenti nei dati. Ricercatori della University of Washington hanno studiato se un'IA può imparare valori osservando il comportamento umano, come fanno i bambini. I risultati sono pubblicati su PLOS One.
Hanno reclutato due gruppi di adulti e hanno usato i dati di ciascun gruppo per addestrare un agente separato. Gli agenti hanno imparato osservando le persone con un metodo chiamato inverse reinforcement learning (IRL), dove l'IA cerca di capire gli obiettivi dalle azioni umane. In un gioco i partecipanti potevano aiutare un altro giocatore a costo di consegnare meno zuppe.
Il gruppo di una cultura aiutava più spesso e l'agente addestrato con quei dati mostrava più altruismo anche in una prova di donazione. Gli autori dicono che servono altre ricerche.
Parole difficili
- assimilare — Imparare o assorbire informazioni e idee
- reclutare — Trovare e scegliere persone per un grupporeclutato
- addestrare — Far imparare un comportamento a un sistemaaddestrato
- agente — Un programma o robot che agisce
- altruismo — Comportamento che aiuta gli altri senza beneficio
- donazione — Azione di dare qualcosa ad un altro
Suggerimento: passa il mouse o tocca le parole evidenziate nell’articolo per vedere definizioni rapide mentre leggi o ascolti.
Domande di discussione
- Pensi che un'IA possa davvero imparare valori osservando le persone? Perché?
- Ti sembra giusto che qualcuno aiuti gli altri a costo di avere meno per sé? Spiega brevemente.
- Secondo te, quali altre ricerche servono per capire meglio questo problema?
Articoli correlati
La crisi dell'istruzione in Madagascar
Negli ultimi 20 anni il sistema educativo del Madagascar si è indebolito dalla scuola primaria fino all'università. Problemi come insegnanti non qualificati, infrastrutture scarse, bassa spesa pubblica e fuga di cervelli limitano lo sviluppo.
L'arte apre la mente e aumenta la creatività
Uno studio dell'UC Santa Barbara ha confrontato cortometraggi artistici e video non artistici. Chi ha visto i film artistici ha mostrato più creatività, pur riferendo emozioni negative; i ricercatori spiegano il fenomeno con uno «stato di apertura mentale».
Sicurezza dei modelli linguistici: ipotesi e tecnica
Ricercatori della North Carolina State University hanno studiato l'allineamento alla sicurezza nei grandi modelli linguistici, proposto la Superficial Safety Alignment Hypothesis (SSAH) e sperimentato il congelamento di componenti neurali per ridurre uscite non sicure mantenendo le prestazioni.