Une équipe de l'University of Utah, dirigée par Zac Imel et avec Vivek Srikumar, Brent Kious et d'autres collaborateurs, a mis en ligne avant publication un cadre pour évaluer l'automatisation du travail thérapeutique. Le texte est destiné à clarifier ce qui est réellement automatisé et à séparer les enjeux pratiques de la question plus large du remplacement des thérapeutes par des machines.
Les auteurs décrivent quatre catégories le long d'un continuum : A — systèmes scriptés à contenu préécrit ; B — IA qui évalue les thérapeutes ; C — IA qui assiste les thérapeutes en suggérant interventions et relances ; D — IA qui dispense la thérapie directement comme agent autonome, éventuellement sous supervision.
Ils évaluent chaque catégorie en termes d'utilité et de risques et notent que des outils simples de prise de notes présentent un profil très différent d'un thérapeute IA autonome. L'équipe travaille aussi avec SafeUT pour développer des outils qui évaluent les séances des conseillers en crise et fournissent des retours pour maintenir et développer les compétences. Ils avertissent que les LLM utilisés directement peuvent fabriquer des informations, encoder des biais et être imprévisibles, et qu'ils ne respectent pas forcément les techniques fondées sur des preuves. Des coauteurs viennent d'autres universités et instituts, et Zac Imel est cofondateur de Lyssn.
Mots difficiles
- automatisation — Processus rendant une tâche effectuée par des machines.
- thérapeutique — Qui concerne le traitement et la santé mentale.
- continuum — Suite continue d'états ou de catégories.
- système scripté — Programme qui suit un texte ou un plan écrit.systèmes scriptés
- agent autonome — Programme qui agit seul sans intervention humaine.
- profil — Ensemble de caractéristiques ou de traits.
- retour — Commentaires aidant à améliorer une compétence.retours
- encoder — Inscrire ou intégrer des idées ou données.
- biais — Tendance qui fausse un jugement ou résultat.
- fondé — Basé sur des recherches et des preuves fiables.fondées
Astuce : survolez, mettez le focus ou touchez les mots en surbrillance dans l’article pour voir des définitions rapides pendant que vous lisez ou écoutez.
Questions de discussion
- Pensez-vous qu'une IA puisse aider un thérapeute sans remplacer son rôle ? Pourquoi ?
- Quels risques principaux craindriez-vous si des LLM étaient utilisés directement en thérapie ?
- Comment des retours sur les séances peuvent-ils aider les conseillers en crise dans leur travail ?
Articles liés
L'IA peut être biaisée à cause de la complexité du monde réel
Une recherche de l'Université du Texas à Austin montre que de nombreux biais d'IA viennent de l'incapacité des modèles à représenter des situations réelles complexes. Les auteurs recommandent d'ouvrir les boîtes noires et d'impliquer des acteurs divers.
Inondations en Himachal Pradesh : des familles tentent de se relever
De fortes pluies et la surconstruction dans l’Himalaya ont provoqué des inondations sévères, surtout dans le district de Mandi en juin. De nombreuses familles ont perdu des proches et font face à des problèmes de santé mentale malgré l’aide reçue.
« Vibe coding » : l'IA et le code vulnérable
Des chercheurs alertent sur le « vibe coding », un style de programmation où des outils d'IA produisent du code non sécurisé. Un radar développé par Georgia Tech détecte et suit ces vulnérabilités pour mieux les comprendre et les prévenir.