Des chercheurs de l'University of Utah ont élaboré un cadre pour évaluer dans quelle mesure le travail thérapeutique peut être automatisé à mesure que les systèmes conversationnels et les grands modèles de langage (LLM) se généralisent. Mis en ligne avant publication dans Current Directions in Psychological Science, ce travail, dirigé par Zac Imel avec Vivek Srikumar, Brent Kious et d'autres, vise à préciser ce qui est techniquement et pratiquement automatisé, et à distinguer usage, risque et responsabilité.
Le cadre organise l'automatisation en quatre catégories le long d'un continuum : des systèmes scriptés avec contenu préécrit et arbres décisionnels ; des IA qui évaluent et notent des séances de thérapeutes ; des assistants qui suggèrent interventions, relances ou formulations pendant qu'un humain demeure responsable ; et des agents autonomes qui génèrent des réponses et interagissent directement avec des patients, parfois sous supervision.
Les chercheurs évaluent l'utilité potentielle et les risques pour chaque catégorie, en notant que de simples outils de prise de notes ou de coaching se distinguent fortement d'un thérapeute IA entièrement autonome. Ils insistent sur le fait que les utilisateurs et les systèmes de santé ignorent parfois le niveau d'automatisation, ce qui pose des questions de consentement, de responsabilité et des conséquences des erreurs. En collaboration avec SafeUT, l'équipe développe des outils pour évaluer les séances des conseillers en crise et fournir des retours destinés au maintien et au développement des compétences. Les auteurs préviennent que les LLM appliqués directement au conseil peuvent fabriquer des informations, encoder des biais, se révéler imprévisibles et ne pas respecter systématiquement les techniques de psychothérapie fondées sur des preuves. Le document propose de commencer par des outils plus légers et moins risqués tout en étudiant soigneusement bénéfices et préjudices. Des coauteurs supplémentaires viennent d'autres universités et instituts, et Zac Imel est cofondateur de Lyssn.
- Continuum d'automatisation
- Quatre catégories A→D
- Évaluation des bénéfices et risques
- Collaboration avec SafeUT
Mots difficiles
- cadre — structure pour organiser des idées ou actions
- automatisation — remplacement d'une tâche humaine par une machineautomatisé
- scripté — préparé à l'avance avec texte fixéscriptés
- arbre décisionnel — diagramme de choix guidant des décisions successivesarbres décisionnels
- agent autonome — système qui répond et agit sans humainagents autonomes
- consentement — accord donné volontairement avant une action
- responsabilité — obligation de répondre des actes ou erreurs
- fabriquer — créer ou inventer quelque chose, souvent faux
Astuce : survolez, mettez le focus ou touchez les mots en surbrillance dans l’article pour voir des définitions rapides pendant que vous lisez ou écoutez.
Questions de discussion
- Pensez-vous qu'il soit acceptable d'utiliser des assistants qui suggèrent des interventions pendant qu'un humain reste responsable ? Pourquoi ?
- Quels avantages et quels risques voyez-vous à commencer par des outils légers plutôt que par des agents autonomes ?
- Comment les services de santé pourraient-ils informer clairement les utilisateurs du niveau d'automatisation d'un système ?
Articles liés
Des navigateurs web avec agents IA posent des risques de cybersécurité
Une étude de l'University of Washington alerte sur des navigateurs dotés d'agents IA qui peuvent permettre à des attaquants de contourner la same-origin policy et de voler des données. Les chercheurs ont présenté des preuves et partagé leurs résultats avec les entreprises concernées.
Le cerveau guide l'adaptation sociale
Une étude de l'Université de Zurich montre que l'activité cérébrale aide les personnes à ajuster leur comportement aux autres. Les chercheurs ont utilisé des jeux et des images du cerveau et pensent que cela peut aider à comprendre certains troubles sociaux.
Quand dire qu'on est autiste change les conseils de l'IA
Une étude de Virginia Tech montre que révéler un diagnostic d'autisme modifie souvent les réponses de grands modèles de langage. Ces changements suivent fréquemment des stéréotypes, et les chercheurs demandent plus de transparence et de contrôle.