Sinais de segurança em modelos de linguagem ^{CEFR B2}

Equipa da North Carolina State University analisou como os modelos de linguagem decidem se uma solicitação é segura e propôs um quadro para melhorar o alinhamento de segurança. Identificaram duas dificuldades centrais: o treino para segurança frequentemente reduz a capacidade do modelo (o chamado "alignment tax") e muitas defesas são superficiais, permitindo que utilizadores contornem os filtros.

A equipa formulou a Hipótese de Alinhamento de Segurança Superficial (SSAH), que afirma que modelos atuais formam uma decisão binária de seguro/inseguro no início da geração da resposta. Jianwei Li exemplificou que, num pedido para roubar dinheiro, o modelo pode recusar a instrução em termos simples, mas aceitar se o pedido incluir um motivo aparente. Também observaram que o ajuste fino para domínios específicos pode enfraquecer essas salvaguardas.

Os investigadores localizaram componentes neurais específicos que controlam a resposta de segurança e demonstraram que "congelar" esses neurónios durante o ajuste fino permite preservar o alinhamento de segurança original enquanto o modelo aprende novas tarefas. Segundo a equipa, a abordagem reduz o custo do alinhamento e oferece um quadro conceptual e uma técnica prática. Também destacam a necessidade de métodos que permitam aos modelos reavaliar a segurança ao longo do processo de geração. O trabalho será apresentado na ICLR2026; código e informações estão disponíveis em https://ssa-h.github.io/ (Fonte: North Carolina State University).