#Inteligência Artificial22
Modelos de linguagem aprendem regras do mundo real
Pesquisadores da Brown University testaram se modelos de linguagem entendem o que é plausível no mundo real. O estudo, apresentado na ICLR no Rio de Janeiro, mostra vetores internos que refletem julgamentos humanos de plausibilidade.
Foto de Zach M, Unsplash
Cérebro antecipa grupos gramaticais, não só a próxima palavra
Pesquisa publicada na Nature Neuroscience mostra que o cérebro antecipa palavras com base em blocos gramaticais (constituintes) e não apenas na próxima palavra. Experimentos usaram falantes de mandarim, MEG e testes Cloze, e compararam com modelos de linguagem.
Padrões de bandos reduzem alucinações em resumos de IA
Pesquisadores usaram padrões de voo de aves para pré‑processar textos antes de passá‑los a grandes modelos de linguagem. A técnica melhora a precisão factual dos resumos, segundo estudo publicado na Frontiers in Artificial Intelligence.
Sinais de segurança em modelos de linguagem
Pesquisadores da North Carolina State University estudaram como melhorar o alinhamento de segurança em modelos de linguagem. Propuseram a Hipótese de Alinhamento de Segurança Superficial (SSAH) e mostraram que congelar neurónios críticos pode preservar a segurança durante o ajuste fino.
Resumos de áudio por IA ajudam, mas têm erros em pesquisas sobre Marte
O serviço NotebookLM do Google transforma artigos científicos em resumos de áudio no estilo podcast que são envolventes, mas também apresentam erros e extrapolações. Os autores recomendam ler o material original e acham o recurso útil, sem substituir a leitura crítica.
Vulnerabilidade VillainNet ameaça carros autônomos
Pesquisadores da Georgia Tech descobriram VillainNet, uma porta dos fundos que pode tomar o controle de carros autônomos quando uma subrede específica é selecionada. O estudo mostra alta taxa de sucesso e pede defesas para as "super redes" de IA.
Estudo: IA prevê personalidade e emoções a partir da linguagem
Um estudo mostra que modelos generativos de IA, como ChatGPT, Claude e LLaMa, conseguem prever traços de personalidade, emoções e comportamentos a partir de diários e gravações de mais de 160 pessoas. Resultados foram publicados na Nature Human Behavior.