LLMの安全性と新しい訓練法 ^{CEFR B1}

ノースカロライナ州立大学の研究チームは、LLMの安全性アラインメントに関する課題を調べました。研究者らは主に二つの問題を挙げました。ひとつは安全性訓練でモデルの精度が下がる「alignment tax」です。もうひとつは、多くのモデルが表面的な安全チェックに頼っており、それをユーザーが回避できる点です。

研究では、モデルが応答生成の初期で安全か危険かを二分する仕組みを仮説として示しました。この仮説に基づき、安全に関わる特定のニューラル成分を内部で同定しました。

同定した成分をファインチューニング中に「凍結」すると、元の安全な動作を保ちながら新しい領域のタスクを学習できることが示されました。研究はICLR2026で発表予定です。