Nieuw onderzoek van de University of Washington onderzoekt of AI culturele waarden kan leren door menselijk gedrag te observeren. De studie verschijnt in PLOS One. De onderzoekers bouwden voort op eerder werk over jonge kinderen en verschillen in altruïsme tussen culturen. Voor de AI-studie namen 190 volwassenen die zich als wit identificeerden deel en 110 die zich als Latino identificeerden. De gegevens van beide groepen trainden aparte AI-agenten.
De agenten werden getraind met inverse reinforcement learning (IRL). Bij standaard reinforcement learning krijgt een AI duidelijke doelen en beloningen. Bij IRL leidt de AI doelen en beloningen af uit geobserveerd menselijk gedrag. In het hoofdexperiment speelden deelnemers een aangepaste versie van het videospel Overcooked en konden zij uien geven aan een tweede speler die om hulp vroeg.
De onderzoekers vonden dat mensen in de Latino-groep vaker hielpen. De AI-agent die op Latino-data was getraind gaf meer uien weg en was in een andere test ook altruistischer bij donaties. De auteurs wijzen erop dat meer onderzoek nodig is naar andere culturen, concurrerende waarden en reële problemen.
Moeilijke woorden
- altruïsme — zorgen voor anderen zonder eigen voordeel
- observeren — iets of iemand bekijken en gedrag noteren
- agent — computerprogramma dat in een taak handeltagenten
- waarde — idee over wat belangrijk of goed iswaarden
- inverse reinforcement learning — methode waarbij AI doelen uit gedrag afleidtinverse reinforcement learning (IRL)
- trainen — leren van een computerprogramma door datatrainden, getraind
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Denk je dat AI betrouwbare culturele waarden kan leren door alleen menselijk gedrag te observeren? Waarom wel of niet?
- Welke andere groepen of culturen zou je in zo'n onderzoek willen opnemen, en waarom?
- Waarom is volgens jou verder onderzoek naar concurrerende waarden en reële problemen belangrijk?
Gerelateerde artikelen
AI-koptelefoon isoleert stemmen in lawaai
Onderzoekers ontwikkelden een prototype-koptelefoon die met kunstmatige intelligentie het beurtwisselingsritme van een gesprek volgt en zo stemmen van gesprekspartners isoleert. Het systeem werkt met korte audiofragmenten en de code is open-source.