#Inteligência Artificial26
Estudo alerta para riscos de segurança em navegadores com agentes de IA
Pesquisadores dizem que navegadores com agentes de IA podem permitir que sites roubem dados de outros sites no mesmo navegador. Um teste prático mostrou brechas e os autores pedem mais cuidados antes do uso público.
Foto de Zoshua Colah, Unsplash
Cérebro antecipa grupos gramaticais, não só a próxima palavra
Pesquisa publicada na Nature Neuroscience mostra que o cérebro antecipa palavras com base em blocos gramaticais (constituintes) e não apenas na próxima palavra. Experimentos usaram falantes de mandarim, MEG e testes Cloze, e compararam com modelos de linguagem.
Padrões de bandos reduzem alucinações em resumos de IA
Pesquisadores usaram padrões de voo de aves para pré‑processar textos antes de passá‑los a grandes modelos de linguagem. A técnica melhora a precisão factual dos resumos, segundo estudo publicado na Frontiers in Artificial Intelligence.
Sinais de segurança em modelos de linguagem
Pesquisadores da North Carolina State University estudaram como melhorar o alinhamento de segurança em modelos de linguagem. Propuseram a Hipótese de Alinhamento de Segurança Superficial (SSAH) e mostraram que congelar neurónios críticos pode preservar a segurança durante o ajuste fino.