Pesquisadores de Yale publicaram um estudo na revista PNAS Nexus que mostra como respostas de chatbots com IA podem deslocar opiniões políticas. Daniel Karell, professor assistente de sociologia em Yale, afirma que consultar um chatbot para fatos históricos pode influenciar opiniões mesmo quando a informação é correta.
O estudo, com Matthew Shu como autor principal, pediu a 1.912 participantes que lessem resumos sobre a Seattle General Strike — uma paralisação de cinco dias em fevereiro de 1919 — e sobre os protestos da Third World Liberation Front em 1968. Foram comparados resumos padrão do GPT-4o, entradas da Wikipedia e resumos instruídos a adotar um enquadramento liberal ou conservador.
Os resumos padrão e os liberais levaram a opiniões mais liberais em comparação com a Wikipedia. O enquadramento conservador só teve efeito estatisticamente significativo entre participantes que se identificaram como conservadores. Os autores atribuem os resultados a vieses latentes nos modelos e a vieses de instrução, e alertam sobre a opacidade do desenvolvimento dos chatbots.
Palavras difíceis
- consultar — procurar informação numa fonte, por exemplo digital
- influenciar — mudar a opinião ou atitude de alguém
- enquadramento — forma de apresentar informação que orienta interpretação
- viés — tendência sistemática que altera julgamentosvieses
- opacidade — falta de transparência ou clareza em processo
- paralisação — suspensão temporária do trabalho ou atividade
Dica: passe o mouse, foque ou toque nas palavras destacadas no artigo para ver definições rápidas enquanto lê ou ouve.
Perguntas para discussão
- Você consultaria um chatbot para aprender fatos históricos? Por quê?
- Que medidas práticas podem reduzir os vieses em respostas de IA?
- Na sua opinião, quais são as diferenças entre consultar a Wikipedia e um chatbot?
Artigos relacionados
Fertilizante de couro ajuda plantações de café em Uganda
Investigadores de Uganda transformaram resíduos do curtume num fertilizante orgânico para o cafeeiro. Testes em Masaka mostraram bons resultados e a equipa espera ter o produto pronto até novembro deste ano para vender na região.
Eventos que aproximam a ciência do público
Eventos com experiências, palestras e atividades práticas tornam a ciência interessante para crianças e adultos. Organizações usam oficinas, exposições e shows móveis para ensinar, medir resultados e enfrentar desafios como financiamento e segurança.
Nova IA ajuda estudantes de medicina a praticar sutura
Pesquisadores da Johns Hopkins criaram uma ferramenta de inteligência artificial explicável que orienta estudantes de medicina na prática de sutura. O sistema dá feedback personalizado por mensagem de texto; estudo com 12 alunos mostrou mais ganho entre os mais experientes.
Crescimento da influência da China no Quirguistão e reações públicas
A China é hoje o maior parceiro económico do Quirguistão e a cooperação cobre mineração, agricultura, energia e transportes. O aumento da presença chinesa gerou protestos, queixas ambientais e mudanças na política do governo e nas ações chinesas.
