Pesquisadores da New York University, liderados por Anasse Bari e com o coautor Binxu Huang, publicaram na revista Frontiers in Artificial Intelligence uma nova estrutura algorítmica para reduzir alucinações em resumos gerados por IA.
O método tem duas fases. Primeiro, cada frase do documento é limpa — mantendo substantivos, verbos e adjetivos — e convertida num vetor que combina características lexicais, semânticas e temáticas. As frases recebem pontuações de centralidade, importância por secção e alinhamento com o abstract.
Depois aplicam princípios de voo em bando (coesão, alinhamento e separação) para agrupar frases semelhantes, identificar líderes e selecionar as frases com pontuações mais altas. Essas frases são reordenadas e passadas a um LLM, que as sintetiza num resumo com maior precisão factual, testado em mais de 9,000 documentos.
Palavras difíceis
- alucinação — informação incorreta ou inventada por um sistemaalucinações
- estrutura algorítmica — conjunto de regras computacionais para processar dados
- vetor — representação numérica que descreve uma entidade
- centralidade — medida de importância relativa numa rede ou texto
- voo em bando — estratégia inspirada no movimento coletivo de aves
- coesão — grau de ligação ou conexão entre partes
- sintetizar — unir várias partes numa versão mais curtasintetiza
- precisão — grau em que as informações são verdadeiras
Dica: passe o mouse, foque ou toque nas palavras destacadas no artigo para ver definições rápidas enquanto lê ou ouve.
Perguntas para discussão
- Você já usou um resumo gerado por IA? Como avaliaria a precisão dele?
- O que acha da ideia de usar princípios de voo em bando para organizar frases? Por quê?
- Quais riscos e benefícios vê em reduzir alucinações em resumos automáticos?
Artigos relacionados
Dispositivo com IA ajuda diagnóstico de autismo no Missouri
Pesquisadores testaram o CanvasDx para apoiar clínicos locais no Missouri. O dispositivo, aprovado pela FDA, deu resultados determinantes em parte dos casos, ajudou a acelerar diagnósticos e reduziu deslocamentos para famílias.
Rede neural que controla expressões faciais
Investigadores da Rockefeller University identificaram circuitos no cérebro e nos músculos da face que geram expressões. Usaram fMRI em macacos rhesus e encontraram uma rede cortical com dinâmicas diferentes, com possíveis aplicações clínicas.
Estudo liga inflamação a preferência por redes sociais
Pesquisa publicada em Scientific Reports liga níveis mais altos de inflamação à preferência por interações em redes sociais em vez de encontros presenciais. Os investigadores mediram proteína C-reativa, questionários e tempo de ecrã.