Pesquisadores da New York University, liderados por Anasse Bari e com o coautor Binxu Huang, publicaram na revista Frontiers in Artificial Intelligence uma nova estrutura algorítmica para reduzir alucinações em resumos gerados por IA.
O método tem duas fases. Primeiro, cada frase do documento é limpa — mantendo substantivos, verbos e adjetivos — e convertida num vetor que combina características lexicais, semânticas e temáticas. As frases recebem pontuações de centralidade, importância por secção e alinhamento com o abstract.
Depois aplicam princípios de voo em bando (coesão, alinhamento e separação) para agrupar frases semelhantes, identificar líderes e selecionar as frases com pontuações mais altas. Essas frases são reordenadas e passadas a um LLM, que as sintetiza num resumo com maior precisão factual, testado em mais de 9,000 documentos.
Palavras difíceis
- alucinação — informação incorreta ou inventada por um sistemaalucinações
- estrutura algorítmica — conjunto de regras computacionais para processar dados
- vetor — representação numérica que descreve uma entidade
- centralidade — medida de importância relativa numa rede ou texto
- voo em bando — estratégia inspirada no movimento coletivo de aves
- coesão — grau de ligação ou conexão entre partes
- sintetizar — unir várias partes numa versão mais curtasintetiza
- precisão — grau em que as informações são verdadeiras
Dica: passe o mouse, foque ou toque nas palavras destacadas no artigo para ver definições rápidas enquanto lê ou ouve.
Perguntas para discussão
- Você já usou um resumo gerado por IA? Como avaliaria a precisão dele?
- O que acha da ideia de usar princípios de voo em bando para organizar frases? Por quê?
- Quais riscos e benefícios vê em reduzir alucinações em resumos automáticos?
Artigos relacionados
IA na África subsaariana: energia e internet limitam acesso
A inteligência artificial enfrenta dois obstáculos na África subsaariana: eletricidade pouco confiável e internet cara e lenta. Esses problemas impedem escolas, centros de saúde e empresas de usar tecnologias avançadas de forma igualitária.
Arquivistas cidadãos preservam cultura oral no Sul da Ásia
Arquivistas cidadãos gravam cantos, histórias e saberes tradicionais no Sul da Ásia. O projeto "Enhancing Indic oral culture on Wikimedia projects" apoia gravações e transcrições para Wikimedia Commons, Wikisource e Wikipedia.
