Un equipo de la University of Washington publicó en PLOS One un estudio sobre si la inteligencia artificial puede aprender valores culturales observando el comportamiento humano, de manera similar a como aprenden los niños. Para el experimento, reclutaron a 190 adultos que se identificaron como blancos y a 110 que se identificaron como latinos, y usaron los datos de cada grupo para entrenar agentes distintos.
Los agentes se entrenaron con aprendizaje por refuerzo inverso (IRL), un método en que la IA observa acciones humanas e infiere los objetivos y recompensas que las motivan. En una prueba, las personas jugaron una versión modificada de Overcooked y podían regalar cebollas para ayudar a un segundo jugador que debía caminar más; ese segundo era en realidad un bot.
Los investigadores hallaron que el grupo latino ayudó más y que el agente entrenado con datos latinos reprodujo esa tendencia. En otra prueba, el agente latino también donó más dinero. Los autores proponen ampliar la cantidad y variedad de datos culturales y estudiar otros grupos y valores en conflicto.
Palabras difíciles
- aprendizaje — proceso de adquirir conocimientos y habilidades
- refuerzo inverso — método que infiere objetivos desde acciones
- agente — programa o sistema que toma decisionesagentes
- recompensa — señal que indica un objetivo o beneficiorecompensas
- reclutar — buscar y seleccionar personas para participarreclutaron
- donar — dar dinero u objetos para ayudardonó
- tendencia — comportamiento o patrón repetido en un grupo
- valor cultural — idea o norma importante en una comunidadvalores culturales
Consejo: pasa el cursor, enfoca o toca las palabras resaltadas en el artículo para ver definiciones rápidas mientras lees o escuchas.
Preguntas de discusión
- ¿Crees que una IA debería aprender valores culturales observando a personas? ¿Por qué?
- ¿Qué otros grupos o valores crees que deberían estudiar los investigadores y por qué?
- Si un agente aprende valores de un grupo, ¿cómo podría afectar eso a su comportamiento con personas diferentes?
