Onderzoekers verbeteren veiligheid van grote taalmodellen ^{CEFR B2}

Onderzoekers van North Carolina State University publiceerden resultaten over veiligheidsafstemming in grote taalmodellen en presenteerden nieuwe trainingsmethoden die onveilige output verminderen zonder modelprestaties te verliezen. Jung-Eun Kim, correspondentie-auteur en assistant professor computerwetenschappen, benadrukte dat modellen geen advies moeten geven dat mensen kan schaden, zoals zelfbeschadiging of instructies voor gevaarlijk gedrag.

Het team signaleerde twee belangrijke problemen. Ten eerste bestaat de "alignment tax": veiligheidstraining kan de nauwkeurigheid van een model verlagen. Ten tweede gebruiken veel modellen een oppervlakkige veiligheidscontrole die vroeg in het generatieproces een binair veilig/onveilig-signaal hanteert en die gebruikers soms weten te omzeilen. Jianwei Li, eerste auteur en PhD-student, illustreerde dit met een voorbeeld: een directe vraag om geld te stelen wordt vaak geweigerd, maar dezelfde informatie kan verschijnen als de intentie als behulpzaam wordt geformuleerd. Ook wees hij erop dat fijnafstemming voor een specifiek domein de veiligheid kan verzwakken.

Op basis van deze observaties stelden de onderzoekers de hypothese van oppervlakkige veiligheidsafstemming (SSAH) voor en zochten ze naar veiligheidskritische delen in de modellen. Ze identificeerden specifieke neurale componenten die bepalen of een verzoek wordt uitgevoerd of geweigerd en lieten zien dat het bevriezen van die neuronen tijdens fijnafstemming het oorspronkelijke veiligheidsgedrag behoudt terwijl het model nieuwe domeintaakjes leert. Volgens het team biedt dit zowel een conceptueel kader als een praktische techniek, en zij benadrukken de behoefte aan methoden waarmee modellen tijdens het hele antwoordproces opnieuw kunnen beoordelen of iets veilig is. De resultaten zijn gepresenteerd op ICLR2026 en relevante code staat op https://ssa-h.github.io/. Bron: North Carolina State University.