Des chercheurs de New York University, dirigés par Anasse Bari avec le coauteur Binxu Huang, ont développé un cadre algorithmique publié dans la revue Frontiers in Artificial Intelligence. Ce cadre agit comme une étape de prétraitement pour grands modèles de langage (LLM) afin de réduire les erreurs factuelles appelées "hallucinations" lors du résumé de longs documents.
La méthode considère chaque phrase comme un oiseau virtuel. Dans une première phase, les phrases sont nettoyées (on conserve noms, verbes et adjectifs) et converties en vecteurs numériques qui combinent des caractéristiques lexicales, sémantiques et thématiques. Les phrases reçoivent des scores de centralité, d'importance par section et d'alignement avec le résumé.
Dans la seconde phase, on applique des principes d'essaims — cohésion, alignement et séparation — pour regrouper des phrases similaires. Les leaders émergent et seules les phrases les mieux notées de chaque groupe sont retenues, puis réordonnées et transmises au LLM. Les tests sur plus de 9 000 documents montrent des résumés plus factuellement précis qu'avec des LLM non prétraités. Bari précise que le cadre prépare l'IA plutôt qu'il ne la remplace.
Mots difficiles
- cadre — structure qui organise une méthode ou un système
- prétraitement — traitement initial fait avant un autre processus
- hallucination — fausses informations produites par un modèlehallucinations
- vecteur — représentation numérique d'un mot ou d'une phrasevecteurs
- centralité — mesure de l'importance d'un élément dans un ensemble
- cohésion — qualité d'être uni et lié entre éléments
- alignement — accord ou correspondance entre informations ou objectifs
- leader — membre principal ou guide d'un groupeleaders
Astuce : survolez, mettez le focus ou touchez les mots en surbrillance dans l’article pour voir des définitions rapides pendant que vous lisez ou écoutez.
Questions de discussion
- Pensez-vous que ce type de prétraitement peut améliorer la qualité des résumés automatiques ? Pourquoi ?
- Quels critères utiliseriez-vous pour décider quelles phrases garder dans un résumé ?
- Préféreriez-vous un résumé plus court mais très précis ou un résumé plus long avec plus d'informations ? Expliquez.
Articles liés
Les universités et la recherche en Iran touchées par des frappes
Des frappes aériennes ont endommagé des dizaines d’universités et laboratoires en Iran. L’enseignement en présentiel a été suspendu, l’UNESCO condamne les attaques et des experts craignent des effets durables sur la recherche et les étudiants.
Un rapport mondial sur le journalisme scientifique et la COVID-19
Un rapport de SciDev.Net, publié pour son 20e anniversaire, présente un sondage auprès de 633 journalistes de 77 pays. Il montre une charge de travail accrue, des avis partagés et l’usage fréquent des prépublications pendant la pandémie.
Un bonobo peut faire semblant, selon des expériences
Des chercheurs ont réalisé trois expériences avec un bonobo enculturé nommé Kanzi. Les résultats, publiés dans Science, montrent que le bonobo comprend les objets « prétendus » et suggèrent que cette capacité n'est pas uniquement humaine.