Des équipes de recherche ont analysé plus de 43 000 avis de sécurité publiés en ligne et ont identifié de nombreux cas où des outils d'intelligence artificielle générative ont contribué à produire du code non sécurisé. Elles ont donné le nom de « vibe coding » à ce phénomène et citent des outils comme Claude, Gemini et GitHub Copilot.
Le Vibe Security Radar, développé par le Systems Software & Security Lab de Georgia Tech, parcourt des bases publiques de vulnérabilités. Il associe chaque vulnérabilité à une erreur, examine l'historique du code pour trouver qui a introduit le bug et signale les cas contenant une signature d'outil d'IA. Le radar a confirmé 74 cas, dont 14 classés critiques et 25 considérés comme élevés.
Parmi les vulnérabilités détectées figurent l'injection de commandes, le contournement d'authentification et la falsification de requêtes côté serveur. Les chercheurs expliquent que les modèles d'IA ont tendance à répéter les mêmes erreurs et recommandent de relire le code généré, comme on relirait la demande de fusion d'un développeur junior.
Mots difficiles
- vulnérabilité — faiblesse dans un système ou un logicielvulnérabilités
- injection de commandes — attaque qui exécute des commandes non prévues
- contournement d'authentification — action pour éviter le contrôle d'accès
- falsification de requêtes — création de requêtes malveillantes vers un serveur
- intelligence artificielle générative — système informatique qui crée du contenu nouveau
- signature — marque ou trace laissée par un outil
- relire — lire encore pour vérifier et corriger
Astuce : survolez, mettez le focus ou touchez les mots en surbrillance dans l’article pour voir des définitions rapides pendant que vous lisez ou écoutez.
Questions de discussion
- Avez-vous déjà utilisé un outil d'IA pour écrire du code ? Quelles précautions avez-vous prises après ?
- Comment une équipe de développement peut-elle organiser la relecture du code généré par l'IA dans un projet réel ?
- Pensez-vous que les entreprises devraient interdire certains usages d'outils d'IA pour la sécurité ? Pourquoi ou pourquoi pas ?
Articles liés
L'IA pour renforcer les soins primaires en Afrique
Des pays africains veulent rendre leurs systèmes de santé plus autonomes. À la CPHIA à Durban, Africa CDC explique comment l'intelligence artificielle et les outils numériques peuvent soutenir les soins primaires, la surveillance et la gouvernance des données.
Une séance de réalité virtuelle réduit l’anxiété face à la mort
Une petite étude pilote montre qu’une courte séance de réalité virtuelle peut réduire nettement l’anxiété liée à la mort chez des étudiants, après une seule expérience immersive basée sur des témoignages d’expériences de mort imminente.
7amleh : l'UE, l'IA et les technologies exportées hors d'Europe
7amleh affirme que les règles européennes sur l'intelligence artificielle ne protègent pas les droits humains quand les technologies quittent l'UE. Le rapport décrit des financements et des ventes qui atteignent des gouvernements et des militaires en Asie de l'Ouest et en Afrique du Nord.
Indonésie : renforcement du contrôle des plateformes numériques
Le gouvernement indonésien augmente la régulation des grandes plateformes. La ministre Meutya Hafid a visité le bureau de Meta et les règles comprennent des enregistrements, des retraits rapides et des sanctions, mais elles suscitent des critiques.