Une étude de l'University of Washington alerte sur des navigateurs dotés d'agents IA qui peuvent permettre à des attaquants de contourner la same-origin policy et de voler des données. Les chercheurs ont présenté des preuves et partagé leurs résultats avec les entreprises concernées.
Photo de Zoshua Colah, Unsplash
Un test basé sur l’intelligence artificielle prédit le risque de retour du cancer du sein. Il combine données cliniques et lames de pathologie, peut être plus rapide et moins coûteux que les tests génomiques, mais des essais restent nécessaires.
Des chercheurs de Brown University ont testé si des modèles de langage reconnaissent des événements plausibles, improbables, impossibles ou sans sens. Ils ont utilisé l'interprétabilité mécanistique et trouvé des vecteurs internes qui reflètent les jugements humains.
Des chercheurs alertent sur le « vibe coding », un style de programmation où des outils d'IA produisent du code non sécurisé. Un radar développé par Georgia Tech détecte et suit ces vulnérabilités pour mieux les comprendre et les prévenir.
Des chercheurs de l'University of Utah proposent un cadre pour évaluer comment le travail thérapeutique peut être automatisé avec les systèmes conversationnels et les grands modèles de langage (LLM). Le cadre distingue quatre niveaux et examine bénéfices, risques et responsabilité.
Une étude publiée dans Nature Neuroscience montre que le cerveau prédit les mots en tenant compte de groupes grammaticaux, pas seulement du mot suivant. Les chercheurs ont utilisé la magnétoencéphalographie et des tests linguistiques pour arriver à cette conclusion.
Une étude de Virginia Tech montre que révéler un diagnostic d'autisme modifie souvent les réponses de grands modèles de langage. Ces changements suivent fréquemment des stéréotypes, et les chercheurs demandent plus de transparence et de contrôle.
Des chercheurs de New York University ont créé un prétraitement inspiré des essaims d'oiseaux pour rendre les résumés automatisés plus fidèles aux documents sources. La méthode réduit la redondance et diminue le risque d'hallucination de l'IA.
Des chercheurs de North Carolina State University étudient l’alignement de sécurité des grands modèles de langage. Ils identifient un problème d’alignement superficiel et proposent de « geler » des neurones clés pour réduire les mauvaises réponses tout en conservant la performance.
Des chercheurs ont utilisé la neuroimagerie pour étudier comment l'organisation du cerveau produit l'intelligence générale. Ils montrent que l'intelligence vient de la coordination entre plusieurs réseaux cérébraux, et non d'une seule région.