Pesquisadores da University of Washington investigaram se sistemas de inteligência artificial podem aprender valores culturais observando comportamento humano. Os resultados foram publicados em PLOS One. A equipe recrutou grupos de participantes que se identificaram como brancos e como latinos, e usou os dados de cada grupo para treinar agentes separados.
Os agentes foram treinados com aprendizado por reforço inverso (IRL). Em vez de dar recompensas explícitas, no IRL a IA observa demonstrações humanas e infere os objetivos e recompensas que explicam aquele comportamento. Os autores comparam esse processo ao aprendizado infantil.
No experimento principal, os participantes jogaram uma versão modificada do videogame Overcooked, em que era possível doar cebolas para ajudar um segundo jogador que precisava caminhar mais. Os participantes não sabiam que o segundo jogador era um bot. Em geral, o grupo latino ajudou mais que o grupo branco, e o agente treinado com dados latinos também doou mais cebolas e foi mais generoso em um teste de doação de dinheiro.
Os autores afirmam que IAs sensíveis à cultura podem exigir demonstrações específicas e que pesquisas adicionais são necessárias para testar mais grupos e valores concorrentes.
Palavras difíceis
- inteligência artificial — sistemas que podem aprender observando comportamento humano
- aprendizado — treino de agentes usando exemplos humanos
- recompensa — benefício recebido por uma açãorecompensas
- demonstração — exemplo de comportamento humano mostrado à IAdemonstrações
- inferir — determinar objetivos a partir de comportamento observadoinfere
- doar — entregar algo a outra pessoa sem esperar retornodoou
- generoso — que dá ou ajuda com muita vontade
Dica: passe o mouse, foque ou toque nas palavras destacadas no artigo para ver definições rápidas enquanto lê ou ouve.
Perguntas para discussão
- Você acha importante treinar IAs com dados de diferentes grupos? Por quê?
- Como você reagiria se jogasse com um jogador que era um bot sem saber?
- Que outras formas de generosidade a IA poderia aprender além de doar cebolas?
