Des chercheurs de Brown University ont testé si des modèles de langage reconnaissent des événements plausibles, improbables, impossibles ou sans sens. Ils ont utilisé l'interprétabilité mécanistique et trouvé des vecteurs internes qui reflètent les jugements humains.
Photo de Zach M, Unsplash
Des chercheurs alertent sur le « vibe coding », un style de programmation où des outils d'IA produisent du code non sécurisé. Un radar développé par Georgia Tech détecte et suit ces vulnérabilités pour mieux les comprendre et les prévenir.
Des chercheurs de l'University of Utah proposent un cadre pour évaluer comment le travail thérapeutique peut être automatisé avec les systèmes conversationnels et les grands modèles de langage (LLM). Le cadre distingue quatre niveaux et examine bénéfices, risques et responsabilité.
Une étude publiée dans Nature Neuroscience montre que le cerveau prédit les mots en tenant compte de groupes grammaticaux, pas seulement du mot suivant. Les chercheurs ont utilisé la magnétoencéphalographie et des tests linguistiques pour arriver à cette conclusion.
Une étude de Virginia Tech montre que révéler un diagnostic d'autisme modifie souvent les réponses de grands modèles de langage. Ces changements suivent fréquemment des stéréotypes, et les chercheurs demandent plus de transparence et de contrôle.
Des chercheurs de New York University ont créé un prétraitement inspiré des essaims d'oiseaux pour rendre les résumés automatisés plus fidèles aux documents sources. La méthode réduit la redondance et diminue le risque d'hallucination de l'IA.
Des chercheurs de North Carolina State University étudient l’alignement de sécurité des grands modèles de langage. Ils identifient un problème d’alignement superficiel et proposent de « geler » des neurones clés pour réduire les mauvaises réponses tout en conservant la performance.
Des chercheurs ont utilisé la neuroimagerie pour étudier comment l'organisation du cerveau produit l'intelligence générale. Ils montrent que l'intelligence vient de la coordination entre plusieurs réseaux cérébraux, et non d'une seule région.
En octobre, Ian Flynn et Sean Peters ont testé des overviews audio de NotebookLM pour trois articles sur le volcanisme martien. Ces résumés rendent les recherches accessibles, mais ils contiennent des erreurs et doivent être vérifiés.
Des chercheurs de Georgia Tech ont identifié VillainNet, une porte dérobée cachée dans des « super réseaux » d'IA pour la conduite autonome. Une fois activée, elle peut prendre le contrôle d'un véhicule, et les expérimentations montrent un fort succès.
