Nieuw onderzoek van de University of Washington onderzoekt of AI culturele waarden kan leren door menselijk gedrag te observeren. De studie verschijnt in PLOS One. De onderzoekers bouwden voort op eerder werk over jonge kinderen en verschillen in altruïsme tussen culturen. Voor de AI-studie namen 190 volwassenen die zich als wit identificeerden deel en 110 die zich als Latino identificeerden. De gegevens van beide groepen trainden aparte AI-agenten.
De agenten werden getraind met inverse reinforcement learning (IRL). Bij standaard reinforcement learning krijgt een AI duidelijke doelen en beloningen. Bij IRL leidt de AI doelen en beloningen af uit geobserveerd menselijk gedrag. In het hoofdexperiment speelden deelnemers een aangepaste versie van het videospel Overcooked en konden zij uien geven aan een tweede speler die om hulp vroeg.
De onderzoekers vonden dat mensen in de Latino-groep vaker hielpen. De AI-agent die op Latino-data was getraind gaf meer uien weg en was in een andere test ook altruistischer bij donaties. De auteurs wijzen erop dat meer onderzoek nodig is naar andere culturen, concurrerende waarden en reële problemen.
Moeilijke woorden
- altruïsme — zorgen voor anderen zonder eigen voordeel
- observeren — iets of iemand bekijken en gedrag noteren
- agent — computerprogramma dat in een taak handeltagenten
- waarde — idee over wat belangrijk of goed iswaarden
- inverse reinforcement learning — methode waarbij AI doelen uit gedrag afleidtinverse reinforcement learning (IRL)
- trainen — leren van een computerprogramma door datatrainden, getraind
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Denk je dat AI betrouwbare culturele waarden kan leren door alleen menselijk gedrag te observeren? Waarom wel of niet?
- Welke andere groepen of culturen zou je in zo'n onderzoek willen opnemen, en waarom?
- Waarom is volgens jou verder onderzoek naar concurrerende waarden en reële problemen belangrijk?
Gerelateerde artikelen
Mamokgethi Phakeng: wiskunde en universitaire leiding
Mamokgethi Phakeng is een Zuid-Afrikaanse wiskundige en universiteitsbestuurder. Ze was de eerste zwarte vrouw met een doctoraat in wiskunde-onderwijs en werd vice-kanselier van de University of Cape Town; ze ontving meerdere onderscheidingen.
Kokpar keert terug in Kazachstan
Het traditionele paardenbalspel kokpar verschijnt weer in Kazachstan. Organisatoren hebben regels aangepast, maar de sport blijft gevaarlijk. De heropleving krijgt steun van lokale overheden, sociale media en cultuurtoerisme en trekt ook buitenlandse aandacht.
Praktisch leren tijdens de wintervakantie
Adviezen van Jim Egenrieder (Virginia Tech) om dagelijkse taken tijdens de wintervakantie te gebruiken als korte, praktische lessen. Activiteiten zoals bakken, budgetteren en buiten observeren versterken vaardigheden en zelfstandigheid bij kinderen.
