Vogelschwarm‑Ideen gegen KI‑Halluzinationen ^{CEFR B2}

Forschende der New York University unter Leitung von Anasse Bari (Coautor Binxu Huang) haben einen algorithmischen Schwarmrahmen vorgestellt, der als Vorverarbeitung für große Sprachmodelle (LLMs) dienen soll. Der Ansatz zielt darauf ab, Eingabetexte für die Modelle kompakter und repräsentativer zu machen, damit die resultierenden Zusammenfassungen näher am Ausgangsmaterial bleiben und weniger faktische Fehler enthalten.

Die Methode arbeitet in zwei Phasen. Zuerst werden Sätze bereinigt: vor allem Nomen, Verben und Adjektive bleiben erhalten, mehrwortige Begriffe werden als Einheit zusammengeführt und jeder Satz in einen numerischen Vektor überführt, der lexikalische, semantische und thematische Merkmale kombiniert. Die Sätze erhalten Bewertungen für dokumentweite Zentralität, abschnittsbezogene Wichtigkeit und Übereinstimmung mit dem Abstract; zentrale Abschnitte wie Einleitung, Ergebnisse und Schlussfolgerung werden höhere Gewichtung zugewiesen.

Im zweiten Schritt werden Schwarmprinzipien wie Kohäsion, Ausrichtung und Separation angewandt, sodass sich Sätze mit ähnlicher Bedeutung zu Clustern ballen. Innerhalb der Cluster entstehen Anführer, denen Nachfolger folgen; aus jedem Schwarm werden nur die bestbewerteten Sätze ausgewählt. So verringert sich Redundanz, während Hintergrund, Methoden, Ergebnisse und Schlussfolgerungen erhalten bleiben. Die ausgewählten Sätze werden neu geordnet und einem LLM übergeben, das daraus eine flüssige, quellengestützte Zusammenfassung synthetisiert. Tests an über 9.000 Dokumenten zeigten bessere faktische Genauigkeit gegenüber LLMs ohne Vorverarbeitung. Bari betont, dass das Framework als Ergänzung und nicht als Konkurrenz zu LLMs gedacht ist: "Das Ziel ist, der KI zu helfen, Zusammenfassungen zu erstellen, die näher am Ausgangsmaterial bleiben." Die Autorinnen und Autoren stellen fest, dass das Risiko von Halluzinationen zwar verringert, aber nicht vollständig eliminiert wird.