Forscher verbessern Sicherheit großer Sprachmodelle ^{CEFR B1}

Forschende der North Carolina State University nahmen große Sprachmodelle unter die Lupe, weil diese oft Rat oder Anleitungen geben. Jung‑Eun Kim betont, dass solche Modelle Menschen nicht zu Selbst‑ oder Fremdschaden anleiten dürfen. Das Team identifizierte zwei Hauptprobleme: die sogenannte "alignment tax", also eine Verringerung der Genauigkeit durch Sicherheitstraining, und eine oberflächliche Sicherheitsprüfung, die sich umgehen lässt.

Jianwei Li erklärt, dass Modelle Sicherheit oft früh im Antwortprozess als sicher oder unsicher einstufen. Das führt dazu, dass eine einfache Umformulierung einer Frage gefährliche Ausgaben ermöglichen kann. Die Forschenden schlugen die Superficial Safety Alignment Hypothesis (SSAH) vor, um dieses Muster zu beschreiben.

Sie suchten nach sicherheitskritischen Teilen im Modell und identifizierten bestimmte neuronale Komponenten. Wenn diese Neuronen beim Feinabstimmen eingefroren werden, kann das Modell seine ursprüngliche Sicherheitsentscheidung behalten und gleichzeitig neue Aufgaben lernen. Die Methode reduziert offenbar die alignment tax, und die Ergebnisse werden auf der ICLR2026 vorgestellt. Relevanter Code ist online verfügbar.