Studie: KI kann kulturelle Werte aus Verhalten lernen ^{CEFR B2}

Eine Forschungsgruppe der University of Washington untersucht, ob KI kulturelle Werte ähnlich wie Menschen aus Beobachtung lernen kann. Die Studie greift frühere Ergebnisse auf, wonach 19 Monate alte Kinder aus Latino- und asiatischen Haushalten tendenziell altruistischer waren. Für die aktuelle Arbeit rekrutierten die Forschenden zwei Erwachsenengruppen und nutzten die Verhaltensdaten jeder Gruppe, um jeweils einen separaten KI-Agenten zu trainieren.

Die Agenten lernten mittels inverse reinforcement learning (IRL). Im Unterschied zum klassischen reinforcement learning, bei dem Ziele und Belohnungen vorgegeben sind, schlussfolgert IRL die zugrunde liegenden Ziele aus beobachtetem menschlichem Verhalten. Im Hauptexperiment spielten die Teilnehmer eine veränderte Version des Videospiels Overcooked: Sie kochten und lieferten Zwiebelsuppe und konnten in eine andere Küche sehen, wo ein zweiter Spieler um Hilfe bat. Spielern war nicht bewusst, dass dieser zweite Spieler ein Bot war. Menschen konnten Zwiebeln verschenken, halfen dadurch aber selbst weniger bei den Lieferungen.

Die Forschenden beobachteten, dass die Latino-Gruppe insgesamt häufiger half. Entsprechend zeigte der mit Latino-Daten trainierte Agent mehr altruistisches Verhalten, etwa öfter Zwiebeln zu verschenken und eher einen Teil seines Geldes an Bedürftige zu spenden. Seniorautor Rajesh Rao warnt davor, universelle Werte in KI fest einprogrammieren zu wollen, weil Kulturen unterschiedliche Werte haben. Er schlägt vor, Demonstrationen und kulturbezogene Datenmengen zu vergrößern, um Feineinstellungen vor dem Einsatz zu ermöglichen. Die Autorinnen und Autoren betonen, dass weitere Forschung nötig ist, um mehr Kulturen, konkurrierende Werte und reale Probleme zu testen.

Die Ergebnisse wurden in PLOS One veröffentlicht. Weitere Koautorinnen und Koautoren stammen von der UW und der San Diego State University. Quelle: University of Washington.