LLMの安全性と新しい訓練法 ^{CEFR B2}

ノースカロライナ州立大学の研究チームは、LLMの安全性アラインメントの働き方を詳しく調べ、新しい訓練手法を提案しました。研究は、訓練で安全性を強めるとモデルの精度が下がる「alignment tax」と、表面的な安全チェックが回避されやすい点という二つの主要な課題を指摘しています。

チームは「表面的安全アラインメント仮説（SSAH）」を提案しました。仮説では、多くのモデルが応答生成の早い段階で安全か危険かを判断し、その二値の信号で行動が決まると説明されます。例えば表面的な判断では、要求の言い回しによって危険な情報が出やすくなることがあります。

研究者らはモデル内部を解析し、要求が実行されるか拒否されるかに影響する特定のニューラル成分を同定しました。彼らはその成分をファインチューニング中に凍結する手法を試し、元の安全動作を保ちながら新タスクの学習を可能にしました。この手法はalignment taxを減らしつつ安全性を保存できると報告されています。

研究は応答過程全体で安全性を再評価する必要を強調しており、成果はICLR2026で発表予定です。関連コードや情報は https://ssa-h.github.io/ で入手可能です。出典: North Carolina State University。