Warum Sprachmodelle bei vierstelliger Multiplikation scheitern ^{CEFR B1}

Ein internationales Forscherteam unter Leitung von Xiaoyan Bai und Chenhao Tan an der University of Chicago, zusammen mit Mitarbeitenden vom MIT, der Harvard University, der University of Waterloo und Google DeepMind, untersuchte, warum Large Language Models bei der Multiplikation zweier vierstelliger Zahlen scheitern. Im Fokus stand der Umgang mit langen Abhängigkeiten: Modelle müssen Teilprodukte und laufende Summen behalten, um das korrekte Endergebnis zu bilden.

Beim Standard-Fine-Tuning erzielten Modelle mit zwei bis zwölf Schichten weniger als 1% Genauigkeit. Die Forschenden fanden, dass diese Modelle lokale Muster lernen, aber keinen Mechanismus zur Speicherung von Zwischenwerten entwickeln. Das ICoT-trainierte Modell erreichte dagegen 100% Genauigkeit und kodierte Zwischenwerte in seinen verborgenen Zuständen, sodass laufende Summen dekodiert werden konnten.

Die Analyse zeigte ebenfalls, dass frühe Schichten Produktpaare an bestimmten Orten speichern und spätere Schichten diese Werte abrufen. Beobachtet wurden zudem Fourier-ähnliche Darstellungen von Ziffern und eine geometrische Operation ähnlich einer Minkowski-Summe. Insgesamt deuten die Ergebnisse darauf hin, dass gezielte Architekturänderungen und Trainingsziele mehrstufiges Rechnen ermöglichen.