Des chercheurs de North Carolina State University ont étudié la sécurité des grands modèles de langage. Jung-Eun Kim dit qu'ils ne veulent pas que ces modèles conseillent de se faire du mal ou aident à nuire à autrui. L'équipe a trouvé deux défis : l'entraînement à la sécurité peut réduire la précision (appelé « alignment tax ») et le contrôle peut être superficiel et contourné.
Jianwei Li donne un exemple simple : si on demande comment voler de l'argent, le modèle refuse ; mais si on dit que c'est pour aider des gens, le modèle peut donner l'information. Ils notent aussi que l'ajustement fin à un domaine peut affaiblir la sécurité.
Les chercheurs proposent l'hypothèse SSAH et identifient des neurones critiques. En gelant ces neurones lors du fine-tuning, le modèle garde sa sécurité initiale tout en apprenant de nouvelles tâches. Le travail sera présenté à ICLR2026 et le code est disponible en ligne.
Mots difficiles
- chercheur — personne qui fait des recherches scientifiqueschercheurs
- sécurité — protection contre le danger ou le risque
- précision — qualité d'être exact ou sans erreur
- geler — arrêter l'activité en rendant immobilegelant
- neurone — cellule du cerveau qui transmet des signauxneurones
- hypothèse — idée proposée pour expliquer quelque chose
- contourner — éviter une règle ou une protectioncontourné
Astuce : survolez, mettez le focus ou touchez les mots en surbrillance dans l’article pour voir des définitions rapides pendant que vous lisez ou écoutez.
Questions de discussion
- Est‑ce important que les modèles n'aident pas à nuire ? Pourquoi ?
- Que penses‑tu de l'idée de geler des neurones pour garder la sécurité ?
- Préférerais‑tu un modèle qui apprend beaucoup ou un modèle très sécurisé ? Explique.
Articles liés
Une application pour écouter le cœur du bébé à la maison
Une nouvelle application mobile permet de mesurer le rythme cardiaque fœtal à domicile. Elle utilise le haut‑parleur du téléphone, a été testée cliniquement et pourrait aider les personnes éloignées des soins, mais ne remplace pas un médecin.
L'IA transforme les soins de première ligne en Afrique subsaharienne
L'intelligence artificielle améliore les soins de première ligne dans certaines régions d'Afrique subsaharienne. Des pilotes au Kenya et ailleurs montrent des diagnostics plus rapides et des réductions des prescriptions inappropriées et des complications graves.
El Salvador mise sur l'IA pour moderniser la santé
Le gouvernement d'El Salvador présente l'intelligence artificielle comme un outil pour moderniser les services publics. DoctorSV, une application de télémédecine lancée en 2025 avec le soutien de la CAF et de Google, entre en deuxième phase en avril 2026, mais le projet suscite aussi des critiques et des inquiétudes.
L'IA et le travail : ce que disent les historiens
Des historiens étudient comment les précédentes inventions ont changé le travail pour éclairer les inquiétudes liées à l'intelligence artificielle. Un message viral et des outils très rapides relancent le débat sur l'emploi, la réglementation et la société.
Apprendre à marcher avec une prothèse robotique
Une étude montre comment des personnes apprennent à utiliser une prothèse de jambe. Les performances s'améliorent, mais la perception de la marche change; les chercheurs proposent plus de retours visuels pour mieux calibrer l'image corporelle.