Um novo estudo, apresentado em abril na conferência CHI por Caleb Wohn, examina como grandes modelos de linguagem mudam recomendações quando usuários divulgam que têm autismo. A pesquisa foi conduzida no laboratório da professora assistente Eugenia Rho, na Virginia Tech, e envolveu testes com seis grandes modelos, incluindo GPT-4, Claude, Llama, Gemini e DeepSeek.
A equipe criou centenas de cenários de decisão e gerou 345.000 respostas para milhares de pedidos do tipo “Devo fazer A ou B?”. Quando os usuários declaravam autismo, as recomendações muitas vezes seguiram estereótipos: os modelos sugeriam recusar convites sociais, evitar romance ou permanecer solteiro e pressupunham traços como introversão e comportamento obsessivo.
Em exemplos concretos, um modelo recomendou recusar um convite quase 75% das vezes após a divulgação do autismo, contra cerca de 15% sem divulgação; em cenários de namoro, outro modelo recomendou evitar romance quase 70% das vezes, contra cerca de 50% sem divulgação. Onze dos 12 sinais estereotipados alteraram decisões em pelo menos quatro dos seis sistemas testados.
A equipe também entrevistou 11 usuários autistas e mostrou respostas com e sem divulgação. Alguns participantes se disseram chocados e consideraram as respostas condescendentes — um chegou a perguntar: “Estamos escrevendo uma coluna de conselhos para o Spock aqui?” — enquanto outros sentiram que o conselho cauteloso refletia suas experiências. Rho resumiu: “O viés de um usuário pode ser a personalização de outro.” Os autores alertam que a IA pode parecer confiável mesmo quando oculta vieses e pedem sistemas mais transparentes que permitam controlar como informações pessoais moldam respostas. Fonte: Virginia Tech.
Palavras difíceis
- estereótipo — ideia simplificada e fixa sobre grupoestereótipos
- viés — tendência ou preferência que distorce julgamento
- divulgar — tornar pública informação pessoal ou privadadivulgavam
- condescendente — tratar alguém com atitude superiorcondescendentes
- personalização — ajuste de respostas segundo características pessoais
- transparente — claro, visível e fácil de entendertransparentes
- pressupor — aceitar como verdadeiro sem provapressupunham
- recusar — dizer não ou rejeitar convite
Dica: passe o mouse, foque ou toque nas palavras destacadas no artigo para ver definições rápidas enquanto lê ou ouve.
Perguntas para discussão
- Que problemas podem surgir se modelos de linguagem seguirem estereótipos sobre autismo?
- Que características teria, na sua opinião, um sistema mais transparente que permita controlar como informações pessoais moldam respostas?
- Se você fosse usuário autista, você divulgaria essa condição a um assistente de IA? Por quê?
Artigos relacionados
Resumos de áudio por IA ajudam, mas têm erros em pesquisas sobre Marte
O serviço NotebookLM do Google transforma artigos científicos em resumos de áudio no estilo podcast que são envolventes, mas também apresentam erros e extrapolações. Os autores recomendam ler o material original e acham o recurso útil, sem substituir a leitura crítica.
Bateria que usa bactérias do solo para gerar energia
Uma empresa derivada de uma universidade do Reino Unido criou a Bactery, uma bateria que usa microrganismos do solo para gerar eletricidade e alimentar sensores agrícolas. Testes-piloto no Brasil mostraram o conceito e a empresa planeia produção em pequena escala.
GLO1 protege o cérebro do excesso de cálcio ligado ao Alzheimer
Pesquisadores da Yale descrevem um mecanismo protetor nos cérebros jovens: a proteína GLO1 aumenta quando o cálcio intracelular sobe, mas a sua atividade cai com a idade. Isso pode afetar a memória e a resistência à neurodegeneração.