- Modelos de linguagem dão conselhos e instruções às pessoas.
- É muito importante que as respostas sejam sempre seguras.
- Pesquisadores estudam como tornar os modelos mais seguros e úteis.
- Treinar para segurança pode reduzir a precisão do modelo.
- Alguns modelos têm uma verificação de segurança muito superficial.
- Os pesquisadores acharam neurónios que controlam decisões de segurança.
- Congelar esses neurónios durante o ajuste mantém a segurança.
- O estudo será apresentado na conferência ICLR2026.
Palavras difíceis
- modelo — programa que gera texto para pessoasmodelos
- segurança — estado sem perigo nas respostas ou ações
- pesquisador — pessoa que estuda e faz experiênciaspesquisadores
- treinar — ensinar ou ajustar um modelo com dados
- neurónio — parte do modelo que influencia decisõesneurónios
- congelar — parar a mudança de partes do modelo
Dica: passe o mouse, foque ou toque nas palavras destacadas no artigo para ver definições rápidas enquanto lê ou ouve.
Perguntas para discussão
- Você já usou um modelo de linguagem?
- Para você, é importante que as respostas sejam seguras?
- Você prefere respostas curtas ou longas?
Artigos relacionados
Autora alerta sobre IA, lucro e danos humanos
Hija Kamran, numa colaboração entre Global Voices, APC e GenderIT, diz que empresas priorizam modelos de negócio e que a IA pode reproduzir preconceitos. Pede uma abordagem baseada em direitos humanos e mais dúvida sobre novas tecnologias.
IA transforma cuidados de saúde na África subsaariana
Ferramentas de inteligência artificial começam a mudar o diagnóstico e a gestão de doenças em partes da África subsaariana. Pilotos no Quénia e em outros países mostram reduções em tratamentos errados e tempos de espera, mas existem riscos e necessidades de regulação.
Estrutura inspirada em tatus enrola-se para proteger eletrônicos
Pesquisadores criaram um módulo protetor que se enrola como um tatu para proteger robôs macios e eletrônicos flexíveis. O dispositivo reage automaticamente a toque ou impacto e foi testado com sucesso em provas de conceito.
Reduzir atividade de um circuito do cérebro ajuda contra recaída por opioides
Pesquisadores da Washington State University relatam que diminuir a atividade entre o córtex prelimbico e o tálamo paraventricular reduziu a busca por heroína em um modelo pré-clínico. O estudo foi publicado no Journal of Neuroscience.