Une équipe de l'University of Utah, dirigée par Zac Imel et avec Vivek Srikumar, Brent Kious et d'autres collaborateurs, a mis en ligne avant publication un cadre pour évaluer l'automatisation du travail thérapeutique. Le texte est destiné à clarifier ce qui est réellement automatisé et à séparer les enjeux pratiques de la question plus large du remplacement des thérapeutes par des machines.
Les auteurs décrivent quatre catégories le long d'un continuum : A — systèmes scriptés à contenu préécrit ; B — IA qui évalue les thérapeutes ; C — IA qui assiste les thérapeutes en suggérant interventions et relances ; D — IA qui dispense la thérapie directement comme agent autonome, éventuellement sous supervision.
Ils évaluent chaque catégorie en termes d'utilité et de risques et notent que des outils simples de prise de notes présentent un profil très différent d'un thérapeute IA autonome. L'équipe travaille aussi avec SafeUT pour développer des outils qui évaluent les séances des conseillers en crise et fournissent des retours pour maintenir et développer les compétences. Ils avertissent que les LLM utilisés directement peuvent fabriquer des informations, encoder des biais et être imprévisibles, et qu'ils ne respectent pas forcément les techniques fondées sur des preuves. Des coauteurs viennent d'autres universités et instituts, et Zac Imel est cofondateur de Lyssn.
Mots difficiles
- automatisation — Processus rendant une tâche effectuée par des machines.
- thérapeutique — Qui concerne le traitement et la santé mentale.
- continuum — Suite continue d'états ou de catégories.
- système scripté — Programme qui suit un texte ou un plan écrit.systèmes scriptés
- agent autonome — Programme qui agit seul sans intervention humaine.
- profil — Ensemble de caractéristiques ou de traits.
- retour — Commentaires aidant à améliorer une compétence.retours
- encoder — Inscrire ou intégrer des idées ou données.
- biais — Tendance qui fausse un jugement ou résultat.
- fondé — Basé sur des recherches et des preuves fiables.fondées
Astuce : survolez, mettez le focus ou touchez les mots en surbrillance dans l’article pour voir des définitions rapides pendant que vous lisez ou écoutez.
Questions de discussion
- Pensez-vous qu'une IA puisse aider un thérapeute sans remplacer son rôle ? Pourquoi ?
- Quels risques principaux craindriez-vous si des LLM étaient utilisés directement en thérapie ?
- Comment des retours sur les séances peuvent-ils aider les conseillers en crise dans leur travail ?
Articles liés
Pourquoi les modèles ratent la multiplication à quatre chiffres
Une étude montre que l'entraînement standard empêche certains modèles de langage de garder les valeurs intermédiaires nécessaires pour multiplier deux nombres à quatre chiffres. Une méthode appelée ICoT permet au modèle d'atteindre 100 % et de mémoriser ces étapes.
Santé mentale pendant la grossesse et après l’accouchement
Environ une femme sur cinq souffre de troubles mentaux pendant la grossesse et la première année après l’accouchement. L’entretien avec une chercheuse souligne l’importance du soutien familial, professionnel et des politiques de santé.
Comment rendre les modèles de langage plus sûrs
Des chercheurs de North Carolina State University étudient l’alignement de sécurité des grands modèles de langage. Ils identifient un problème d’alignement superficiel et proposent de « geler » des neurones clés pour réduire les mauvaises réponses tout en conservant la performance.
Une application mobile aide la santé mentale des étudiants
Une grande étude universitaire a testé une application mobile avec coaching par texto pour réduire la dépression, l'anxiété et les troubles alimentaires chez les étudiants. Les participants ont montré moins de symptômes sur plusieurs années.
Plomb dans l'enfance lié à des symptômes dépressifs à l'adolescence
Une étude publiée dans JAMA Network Open montre que des concentrations plus élevées de plomb dans le sang pendant l'enfance sont associées à davantage de symptômes dépressifs à l'adolescence. L'âge de 8 ans semble particulièrement important.