北卡研究：让大型语言模型更安全 ^{CEFR B1}

北卡罗来纳州立大学的研究团队研究了大型语言模型（LLM）的安全对齐问题。团队指出，安全训练常常会降低模型准确性，这种现象被称为“对齐成本”（alignment tax）。此外，他们发现有些模型以表面化的方式判断请求的安全性，用户有时可以绕过这些检查。

为了解释这些模式，研究者提出了“表面化安全对齐假设”，并在模型中搜索与安全相关的神经组件。研究显示，在微调过程中冻结这些关键神经元可以让模型在学习新任务时保持原有的安全行为。

团队表示，这项工作既提供了概念框架，也给出实用技术，相关成果将在 ICLR2026 上发表，代码与信息已公开。