Investigadores liderados por Zac Imel en la University of Utah publicaron un marco para evaluar cuánto del trabajo terapéutico puede automatizarse con inteligencia artificial conversacional y modelos de lenguaje grande. El marco, publicado por adelantado antes de su aparición en Current Directions in Psychological Science, clasifica la automatización en cuatro categorías: sistemas guionizados, evaluación de terapeutas, asistencia al terapeuta y provisión directa de terapia.
El equipo analiza la utilidad potencial y los riesgos de cada categoría y señala que herramientas simples presentan riesgos distintos a los de un terapeuta autónomo. Además, advierten que usuarios y sistemas de salud pueden no saber qué nivel de automatización usan, lo que plantea dudas sobre consentimiento y responsabilidad por errores.
Colaboran con SafeUT para desarrollar herramientas que evalúen sesiones de consejeros de crisis y ofrezcan retroalimentación. Imel afirma que los LLM entrenados pueden captar componentes clave del tratamiento y ofrecer retroalimentación oportuna, aunque también advierten sobre la posibilidad de invención de información, sesgos e imprevisibilidad.
Palabras difíciles
- marco — estructura para organizar y analizar un tema
- automatizar — hacer que una máquina haga un trabajoautomatizarse
- conversacional — relacionado con conversar o comunicación entre personas y máquinas
- clasificar — ordenar o dividir cosas en categoríasclasifica
- riesgo — posibilidad de daño, problema o pérdidariesgos
- consentimiento — permiso informado que da una persona antes
- responsabilidad — obligación de responder por acciones o errores
- retroalimentación — comentarios que ayudan a mejorar o corregir
- invención — creación de información falsa o no real
Consejo: pasa el cursor, enfoca o toca las palabras resaltadas en el artículo para ver definiciones rápidas mientras lees o audicións.
Preguntas de discusión
- ¿Crees que las personas deberían saber cuando una IA participa en su terapia? ¿Por qué?
- ¿Qué ventajas ves en usar IA para dar retroalimentación a los terapeutas?
- ¿Cómo se podrían reducir riesgos como sesgos o invención de información?
