Pesquisadores da New York University, liderados por Anasse Bari e com o coautor Binxu Huang, publicaram na revista Frontiers in Artificial Intelligence uma nova estrutura algorítmica para reduzir alucinações em resumos gerados por IA.
O método tem duas fases. Primeiro, cada frase do documento é limpa — mantendo substantivos, verbos e adjetivos — e convertida num vetor que combina características lexicais, semânticas e temáticas. As frases recebem pontuações de centralidade, importância por secção e alinhamento com o abstract.
Depois aplicam princípios de voo em bando (coesão, alinhamento e separação) para agrupar frases semelhantes, identificar líderes e selecionar as frases com pontuações mais altas. Essas frases são reordenadas e passadas a um LLM, que as sintetiza num resumo com maior precisão factual, testado em mais de 9,000 documentos.
Palavras difíceis
- alucinação — informação incorreta ou inventada por um sistemaalucinações
- estrutura algorítmica — conjunto de regras computacionais para processar dados
- vetor — representação numérica que descreve uma entidade
- centralidade — medida de importância relativa numa rede ou texto
- voo em bando — estratégia inspirada no movimento coletivo de aves
- coesão — grau de ligação ou conexão entre partes
- sintetizar — unir várias partes numa versão mais curtasintetiza
- precisão — grau em que as informações são verdadeiras
Dica: passe o mouse, foque ou toque nas palavras destacadas no artigo para ver definições rápidas enquanto lê ou ouve.
Perguntas para discussão
- Você já usou um resumo gerado por IA? Como avaliaria a precisão dele?
- O que acha da ideia de usar princípios de voo em bando para organizar frases? Por quê?
- Quais riscos e benefícios vê em reduzir alucinações em resumos automáticos?
Artigos relacionados
Vestível com IA detecta fragilidade em idosos
Pesquisadores da University of Arizona criaram uma manga vestível com inteligência artificial que identifica sinais precoces de fragilidade em adultos mais velhos. A deteção antecipada pode mudar o cuidado, do tratamento após quedas para intervenções preventivas.
Sensor vestível detecta anticorpos em 10 minutos
Pesquisadores da Universidade de Pittsburgh criaram um biossensor vestível que detecta anticorpos de vírus em 10 minutos sem punção venosa. O trabalho foi publicado na revista Analytical Chemistry e mede anticorpos no fluido intersticial.
Pesquisa sobre antiveneno para o escorpião preto
Pesquisadores na Índia mapearam o veneno do escorpião preto Heterometrus bengalensis e identificaram muitas toxinas. Testes em camundongos mostraram danos graves; a equipa trabalha para desenvolver um antiveneno eficaz contra várias espécies.