Pesquisadores da New York University, liderados por Anasse Bari e com o coautor Binxu Huang, publicaram na revista Frontiers in Artificial Intelligence uma nova estrutura algorítmica para reduzir alucinações em resumos gerados por IA.
O método tem duas fases. Primeiro, cada frase do documento é limpa — mantendo substantivos, verbos e adjetivos — e convertida num vetor que combina características lexicais, semânticas e temáticas. As frases recebem pontuações de centralidade, importância por secção e alinhamento com o abstract.
Depois aplicam princípios de voo em bando (coesão, alinhamento e separação) para agrupar frases semelhantes, identificar líderes e selecionar as frases com pontuações mais altas. Essas frases são reordenadas e passadas a um LLM, que as sintetiza num resumo com maior precisão factual, testado em mais de 9,000 documentos.
Palavras difíceis
- alucinação — informação incorreta ou inventada por um sistemaalucinações
- estrutura algorítmica — conjunto de regras computacionais para processar dados
- vetor — representação numérica que descreve uma entidade
- centralidade — medida de importância relativa numa rede ou texto
- voo em bando — estratégia inspirada no movimento coletivo de aves
- coesão — grau de ligação ou conexão entre partes
- sintetizar — unir várias partes numa versão mais curtasintetiza
- precisão — grau em que as informações são verdadeiras
Dica: passe o mouse, foque ou toque nas palavras destacadas no artigo para ver definições rápidas enquanto lê ou ouve.
Perguntas para discussão
- Você já usou um resumo gerado por IA? Como avaliaria a precisão dele?
- O que acha da ideia de usar princípios de voo em bando para organizar frases? Por quê?
- Quais riscos e benefícios vê em reduzir alucinações em resumos automáticos?
Artigos relacionados
Algoritmos revelam como propano vira propileno
Pesquisadores da University of Rochester criaram algoritmos que mostram, ao nível atômico, como catalisadores nanométricos transformam propano em propileno. A descoberta explica crescimento de óxido em sítios metálicos e pode ajudar outras reações industriais.
Fermentação melhora o gosto de alimentos com algas
Um estudo mostrou que fermentar a alga castanha Alaria esculenta torna produtos como queijo cremoso e pasta mais agradáveis. Produtos com algas fermentadas tiveram sabor mais suave, odor reduzido e textura mais firme, segundo testes com consumidores.
