用鸟群法减少AI长文摘要的“幻觉” ^{CEFR B1}

研究者指出，人工智能生成摘要时会出现“幻觉”，尤其是在输入冗长、噪声多或重复的文本时，这会拖慢工作进度，因为人们必须核查并修正这些错误。

纽约大学一个由 Anasse Bari 领导、Binxu Huang 等人参与的团队，开发了一个算法框架，作为大型语言模型的预处理步骤。第一阶段对句子进行清洗，保留名词、动词和形容词，并合并多词术语以保持概念完整，然后将句子转换为融合词汇、语义和主题特征的数值向量并计算多项评分。

第二阶段应用鸟群的凝聚、对齐与分离原则，把含义相近的句子聚成簇。每簇选取得分最高的代表句，既减少冗余又保留背景、方法、结果与结论等覆盖。所选句子重排后交给大型语言模型合成为基于原文的流畅摘要。研究在超过9,000份文档上测试，结果显示与未用该框架的模型相比，事实准确性有所提高。

Bari 表示该框架是预处理步骤，目的不是与大型语言模型竞争，而是帮助人工智能生成更贴近原始材料的摘要。作者也指出该方法能降低幻觉风险，但不能完全消除。