Vogelschwarm‑Ideen gegen KI‑Halluzinationen ^{CEFR B1}

Ein Team der New York University unter der Leitung von Anasse Bari (mit Coautor Binxu Huang) entwickelte einen algorithmischen Rahmen, der als Vorverarbeitungsschritt für große Sprachmodelle (LLMs) dient. Die Idee ist, Modelle vor der finalen Zusammenfassung eine knappere und repräsentativere Eingabe zu geben, um Halluzinationen zu reduzieren.

In der ersten Phase werden Sätze bereinigt: Vor allem Nomen, Verben und Adjektive bleiben erhalten und mehrwortige Begriffe werden zusammengeführt. Jeder Satz wird in einen numerischen Vektor umgewandelt, der lexikalische, semantische und thematische Merkmale kombiniert. Sätze erhalten Bewertungen für dokumentweite Zentralität, abschnittsbezogene Wichtigkeit und Übereinstimmung mit dem Abstract; wichtige Abschnitte wie Einleitung, Ergebnisse und Schluss werden stärker gewichtet.

In der zweiten Phase wenden die Forschenden Schwarmprinzipien an, sodass Sätze mit ähnlicher Bedeutung zu Clustern zusammenrücken. Aus jedem Cluster werden die bestbewerteten Sätze ausgewählt, neu geordnet und einem LLM zur Synthese übergeben. Getestet an über 9.000 Dokumenten ergab die Kombination höhere faktische Genauigkeit als LLMs ohne diesen Schritt. Bari betont, dass das Framework als Vorstufe gedacht ist: "Das Ziel ist, der KI zu helfen, Zusammenfassungen zu erstellen, die näher am Ausgangsmaterial bleiben." Die Methode mindert das Risiko von Halluzinationen, beseitigt es aber nicht vollständig.