Um novo estudo publicado na PNAS Nexus examina como respostas ordinárias de chatbots com IA podem alterar opiniões sociais e políticas dos usuários. Os autores, entre eles Daniel Karell, argumentam que vieses latentes introduzidos durante o treinamento de grandes modelos de linguagem podem tornar essas respostas persuasivas, mesmo sem intenção explícita de persuadir.
Os pesquisadores recrutaram 1.912 participantes e apresentaram resumos sobre dois eventos do século XX: a Seattle General Strike, uma paralisação de cinco dias em fevereiro de 1919, e os protestos estudantis da Third World Liberation Front em 1968. Cada participante leu resumos padrão do GPT-4o, as entradas correspondentes da Wikipedia ou resumos instruídos a adotar um enquadramento liberal ou conservador.
Comparado com a Wikipedia, os resumos padrão e os instruídos para ser liberais deslocaram opiniões para posições mais liberais. O enquadramento conservador gerou respostas mais conservadoras em relação à Wikipedia, mas o efeito estatisticamente significativo ocorreu apenas entre participantes que se identificaram como conservadores. Os autores sugerem que o enquadramento conservador pode decorrer sobretudo de viés na instrução, enquanto o efeito liberal parece resultar de vieses latentes e de instrução. Eles também destacam que, ao contrário da edição transparente da Wikipedia, o desenvolvimento de chatbots é opaco, e isso dá às empresas a capacidade de moldar opiniões públicas.
Há coautores adicionais de Yale e da Rutgers University. Fonte: Yale University.
Palavras difíceis
- viés — tendência que distorce julgamento ou informaçãovieses
- latente — presente mas não visível ou manifestadolatentes
- enquadramento — forma de apresentar informação que influencia interpretação
- persuasivo — capaz de convencer ou influenciar opiniõespersuasivas
- deslocar — mover ou mudar posição ou opiniãodeslocaram
- opaco — difícil de ver ou entender, pouco transparente
- instrução — direção ou comando que orienta ação ou resposta
- estatisticamente significativo — resultado pouco provável por acaso segundo análise
Dica: passe o mouse, foque ou toque nas palavras destacadas no artigo para ver definições rápidas enquanto lê ou ouve.
Perguntas para discussão
- Que consequências sociais podem surgir se empresas usarem chatbots opacos para moldar opiniões públicas?
- De que forma vieses latentes e instruções diferentes podem alterar a leitura de eventos históricos pelos leitores?
- Que medidas de transparência ou regulação poderiam reduzir efeitos persuasivos de chatbots e por quê?
Artigos relacionados
Fertilizante de couro ajuda plantações de café em Uganda
Investigadores de Uganda transformaram resíduos do curtume num fertilizante orgânico para o cafeeiro. Testes em Masaka mostraram bons resultados e a equipa espera ter o produto pronto até novembro deste ano para vender na região.
Eventos que aproximam a ciência do público
Eventos com experiências, palestras e atividades práticas tornam a ciência interessante para crianças e adultos. Organizações usam oficinas, exposições e shows móveis para ensinar, medir resultados e enfrentar desafios como financiamento e segurança.
Nova IA ajuda estudantes de medicina a praticar sutura
Pesquisadores da Johns Hopkins criaram uma ferramenta de inteligência artificial explicável que orienta estudantes de medicina na prática de sutura. O sistema dá feedback personalizado por mensagem de texto; estudo com 12 alunos mostrou mais ganho entre os mais experientes.
Crescimento da influência da China no Quirguistão e reações públicas
A China é hoje o maior parceiro económico do Quirguistão e a cooperação cobre mineração, agricultura, energia e transportes. O aumento da presença chinesa gerou protestos, queixas ambientais e mudanças na política do governo e nas ações chinesas.
