Учёные сохраняют безопасность больших языковых моделей ^{CEFR A2}

Крупные языковые модели используют для разных задач, в том числе для советов и инструкций, поэтому важна их безопасность. Учёные из North Carolina State University изучили, как достигается безопасность в таких моделях и как её улучшить.

Команда обнаружила две основные проблемы. Во‑первых, обучение безопасности иногда снижает точность модели — это называют «alignment tax». Во‑вторых, многие модели делают быструю поверхностную проверку безопасности, которую можно обойти. Пример: просьба о краже денег обычно отклоняется, но та же просьба, поданная как помощь людям, может получить ответ.

Исследователи предложили гипотезу SSAH и нашли нейронные компоненты, важные для решений о безопасности. Они показали, что замораживание этих компонентов при донастройке помогает сохранить безопасность и уменьшить потерю точности. Результаты представят на ICLR2026, код опубликован на https://ssa-h.github.io/.