Des chercheurs de l'University of Utah ont élaboré un cadre pour évaluer dans quelle mesure le travail thérapeutique peut être automatisé à mesure que les systèmes conversationnels et les grands modèles de langage (LLM) se généralisent. Mis en ligne avant publication dans Current Directions in Psychological Science, ce travail, dirigé par Zac Imel avec Vivek Srikumar, Brent Kious et d'autres, vise à préciser ce qui est techniquement et pratiquement automatisé, et à distinguer usage, risque et responsabilité.
Le cadre organise l'automatisation en quatre catégories le long d'un continuum : des systèmes scriptés avec contenu préécrit et arbres décisionnels ; des IA qui évaluent et notent des séances de thérapeutes ; des assistants qui suggèrent interventions, relances ou formulations pendant qu'un humain demeure responsable ; et des agents autonomes qui génèrent des réponses et interagissent directement avec des patients, parfois sous supervision.
Les chercheurs évaluent l'utilité potentielle et les risques pour chaque catégorie, en notant que de simples outils de prise de notes ou de coaching se distinguent fortement d'un thérapeute IA entièrement autonome. Ils insistent sur le fait que les utilisateurs et les systèmes de santé ignorent parfois le niveau d'automatisation, ce qui pose des questions de consentement, de responsabilité et des conséquences des erreurs. En collaboration avec SafeUT, l'équipe développe des outils pour évaluer les séances des conseillers en crise et fournir des retours destinés au maintien et au développement des compétences. Les auteurs préviennent que les LLM appliqués directement au conseil peuvent fabriquer des informations, encoder des biais, se révéler imprévisibles et ne pas respecter systématiquement les techniques de psychothérapie fondées sur des preuves. Le document propose de commencer par des outils plus légers et moins risqués tout en étudiant soigneusement bénéfices et préjudices. Des coauteurs supplémentaires viennent d'autres universités et instituts, et Zac Imel est cofondateur de Lyssn.
- Continuum d'automatisation
- Quatre catégories A→D
- Évaluation des bénéfices et risques
- Collaboration avec SafeUT
Mots difficiles
- cadre — structure pour organiser des idées ou actions
- automatisation — remplacement d'une tâche humaine par une machineautomatisé
- scripté — préparé à l'avance avec texte fixéscriptés
- arbre décisionnel — diagramme de choix guidant des décisions successivesarbres décisionnels
- agent autonome — système qui répond et agit sans humainagents autonomes
- consentement — accord donné volontairement avant une action
- responsabilité — obligation de répondre des actes ou erreurs
- fabriquer — créer ou inventer quelque chose, souvent faux
Astuce : survolez, mettez le focus ou touchez les mots en surbrillance dans l’article pour voir des définitions rapides pendant que vous lisez ou écoutez.
Questions de discussion
- Pensez-vous qu'il soit acceptable d'utiliser des assistants qui suggèrent des interventions pendant qu'un humain reste responsable ? Pourquoi ?
- Quels avantages et quels risques voyez-vous à commencer par des outils légers plutôt que par des agents autonomes ?
- Comment les services de santé pourraient-ils informer clairement les utilisateurs du niveau d'automatisation d'un système ?
Articles liés
Gérer le deuil d'un animal pendant les fêtes
Les fêtes peuvent raviver la tristesse quand un animal vieillit ou disparaît. Une travailleuse sociale vétérinaire explique le « deuil anticipé » et propose des gestes simples pour profiter du temps restant et garder la mémoire de l'animal.
L'intelligence émerge de l'organisation du cerveau
Des chercheurs ont utilisé la neuroimagerie pour étudier comment l'organisation du cerveau produit l'intelligence générale. Ils montrent que l'intelligence vient de la coordination entre plusieurs réseaux cérébraux, et non d'une seule région.
Plomb dans l'enfance lié à des symptômes dépressifs à l'adolescence
Une étude publiée dans JAMA Network Open montre que des concentrations plus élevées de plomb dans le sang pendant l'enfance sont associées à davantage de symptômes dépressifs à l'adolescence. L'âge de 8 ans semble particulièrement important.
Une faille nommée VillainNet menace les voitures autonomes
Des chercheurs de Georgia Tech ont identifié VillainNet, une porte dérobée cachée dans des « super réseaux » d'IA pour la conduite autonome. Une fois activée, elle peut prendre le contrôle d'un véhicule, et les expérimentations montrent un fort succès.
Plus d'activité cérébrale chez des personnes avec TOC pendant une tâche séquentielle
Une étude de l’université de Brown montre que des personnes avec trouble obsessionnel‑compulsif ont plus d’activité cérébrale lors d’une tâche séquentielle difficile. Les chercheur·e·s pensent que ces zones nouvelles pourraient être ciblées par la TMS.