Pesquisadores de Yale publicaram um estudo na revista PNAS Nexus que mostra como respostas de chatbots com IA podem deslocar opiniões políticas. Daniel Karell, professor assistente de sociologia em Yale, afirma que consultar um chatbot para fatos históricos pode influenciar opiniões mesmo quando a informação é correta.
O estudo, com Matthew Shu como autor principal, pediu a 1.912 participantes que lessem resumos sobre a Seattle General Strike — uma paralisação de cinco dias em fevereiro de 1919 — e sobre os protestos da Third World Liberation Front em 1968. Foram comparados resumos padrão do GPT-4o, entradas da Wikipedia e resumos instruídos a adotar um enquadramento liberal ou conservador.
Os resumos padrão e os liberais levaram a opiniões mais liberais em comparação com a Wikipedia. O enquadramento conservador só teve efeito estatisticamente significativo entre participantes que se identificaram como conservadores. Os autores atribuem os resultados a vieses latentes nos modelos e a vieses de instrução, e alertam sobre a opacidade do desenvolvimento dos chatbots.
Palavras difíceis
- consultar — procurar informação numa fonte, por exemplo digital
- influenciar — mudar a opinião ou atitude de alguém
- enquadramento — forma de apresentar informação que orienta interpretação
- viés — tendência sistemática que altera julgamentosvieses
- opacidade — falta de transparência ou clareza em processo
- paralisação — suspensão temporária do trabalho ou atividade
Dica: passe o mouse, foque ou toque nas palavras destacadas no artigo para ver definições rápidas enquanto lê ou ouve.
Perguntas para discussão
- Você consultaria um chatbot para aprender fatos históricos? Por quê?
- Que medidas práticas podem reduzir os vieses em respostas de IA?
- Na sua opinião, quais são as diferenças entre consultar a Wikipedia e um chatbot?
Artigos relacionados
Expansão territorial em chimpanzés de Ngogo aumenta nascimentos
Estudo em Ngogo, Uganda, mostra que após a comunidade matar grupos vizinhos e ampliar seu território houve mais nascimentos e menor mortalidade infantil nos três anos seguintes. Pesquisadores analisaram dados de mais de 30 anos.
