Une équipe de l'University of Utah, dirigée par Zac Imel et avec Vivek Srikumar, Brent Kious et d'autres collaborateurs, a mis en ligne avant publication un cadre pour évaluer l'automatisation du travail thérapeutique. Le texte est destiné à clarifier ce qui est réellement automatisé et à séparer les enjeux pratiques de la question plus large du remplacement des thérapeutes par des machines.
Les auteurs décrivent quatre catégories le long d'un continuum : A — systèmes scriptés à contenu préécrit ; B — IA qui évalue les thérapeutes ; C — IA qui assiste les thérapeutes en suggérant interventions et relances ; D — IA qui dispense la thérapie directement comme agent autonome, éventuellement sous supervision.
Ils évaluent chaque catégorie en termes d'utilité et de risques et notent que des outils simples de prise de notes présentent un profil très différent d'un thérapeute IA autonome. L'équipe travaille aussi avec SafeUT pour développer des outils qui évaluent les séances des conseillers en crise et fournissent des retours pour maintenir et développer les compétences. Ils avertissent que les LLM utilisés directement peuvent fabriquer des informations, encoder des biais et être imprévisibles, et qu'ils ne respectent pas forcément les techniques fondées sur des preuves. Des coauteurs viennent d'autres universités et instituts, et Zac Imel est cofondateur de Lyssn.
Mots difficiles
- automatisation — Processus rendant une tâche effectuée par des machines.
- thérapeutique — Qui concerne le traitement et la santé mentale.
- continuum — Suite continue d'états ou de catégories.
- système scripté — Programme qui suit un texte ou un plan écrit.systèmes scriptés
- agent autonome — Programme qui agit seul sans intervention humaine.
- profil — Ensemble de caractéristiques ou de traits.
- retour — Commentaires aidant à améliorer une compétence.retours
- encoder — Inscrire ou intégrer des idées ou données.
- biais — Tendance qui fausse un jugement ou résultat.
- fondé — Basé sur des recherches et des preuves fiables.fondées
Astuce : survolez, mettez le focus ou touchez les mots en surbrillance dans l’article pour voir des définitions rapides pendant que vous lisez ou écoutez.
Questions de discussion
- Pensez-vous qu'une IA puisse aider un thérapeute sans remplacer son rôle ? Pourquoi ?
- Quels risques principaux craindriez-vous si des LLM étaient utilisés directement en thérapie ?
- Comment des retours sur les séances peuvent-ils aider les conseillers en crise dans leur travail ?
Articles liés
L'IA peut estimer le risque de TDAH chez les enfants
Une étude montre qu'un modèle d'intelligence artificielle, entraîné sur des dossiers de santé électroniques, peut estimer le risque de TDAH plusieurs années avant le diagnostic habituel et signaler des enfants pour une évaluation plus précoce.
TMS ciblée réduit la peur chez des personnes avec TSPT
Une étude montre que la stimulation magnétique transcrânienne (TMS) ciblée diminue l’activité de l’amygdale et réduit les symptômes du trouble de stress post-traumatique. Les effets sont apparus après deux semaines et ont duré au moins six mois.
Textiles intelligents et MXenes pour la santé
Des chercheurs examinent l’usage des MXenes, de nouveaux matériaux appliqués aux tissus pour surveiller la santé, capter l’énergie solaire et réduire les bactéries. La revue note aussi des limites de durabilité et des travaux pour y remédier.
Une faille nommée VillainNet menace les voitures autonomes
Des chercheurs de Georgia Tech ont identifié VillainNet, une porte dérobée cachée dans des « super réseaux » d'IA pour la conduite autonome. Une fois activée, elle peut prendre le contrôle d'un véhicule, et les expérimentations montrent un fort succès.