Modelos de linguagem, como LLMs, são usados para criar e avaliar textos. Um novo estudo mostrou que eles podem ter julgamentos diferentes dependendo de quem eles acham que escreveu o texto.
Os pesquisadores perceberam que esses modelos mostram viés, especialmente contra autores chineses. Quando o autor de um texto é revelado como sendo de um país específico, como a China, muitos modelos produzem avaliações diferentes.
Os resultados mostram que os LLMs são mais confiáveis quando não se sabe a fonte do texto. Isso levanta preocupações sobre como esses sistemas devem ser usados.
Palavras difíceis
- modelo — Estrutura ou padrão para criar algo.modelos
- avaliação — Julgamento ou análise de algo.avaliar, avaliações
- pesquisador — Pessoa que faz pesquisa.pesquisadores
- viés — Tendência ou preferência em um julgamento.
- confiável — Que pode ser confiado ou é seguro.confiáveis
- preocupação — Sentimento de temor ou ansiedade sobre algo.preocupações
Dica: passe o mouse, foque ou toque nas palavras destacadas no artigo para ver definições rápidas enquanto lê ou ouve.
Perguntas para discussão
- Por que é importante saber a origem de um texto?
- Como podemos evitar viés em avaliações?
- O que você acha das preocupações sobre modelos de linguagem?
Artigos relacionados
Baterias bacterianas captam energia do solo
Uma nova bateria que usa bactérias do solo pode ajudar na agricultura e na coleta de dados para melhor produção.
Advisor de carreira em IA ajuda estudantes a encontrar ‘talentos escondidos’
Em Camarões, uma plataforma de IA oferece orientação acadêmica para ajudar alunos a escolherem suas carreiras. O projeto, chamado OSIA, identifica talentos ocultos dos estudantes.
Novos exames de ressonância magnética podem estar a caminho
Pesquisadores desenvolvem um novo modelo que melhora a clareza das imagens de ressonância magnética, prometendo diagnósticos mais precisos.
Sensores domésticos e IA para monitorizar pessoas com ELA
Uma equipa da Universidade do Missouri testa sensores domésticos e inteligência artificial para acompanhar alterações de saúde em pessoas com esclerose lateral amiotrófica (ELA). O sistema usa aprendizado de máquina para estimar a pontuação ALSFRS-R e pode alertar clínicos.
IA, a nova fronteira para o controle do tabaco global
A IA pode ajudar a controlar o uso de tabaco entre os jovens. Especialistas discutem o uso da tecnologia na luta contra o tabagismo.
A linguagem do futuro não será inglês ou francês, será tecnologia
Em Camarões, muitos pais estão inscrevendo seus filhos em programas de tecnologia. Esse movimento mostra a importância da alfabetização digital na educação.