Investigadores liderados por Zac Imel en la University of Utah publicaron un marco para evaluar cuánto del trabajo terapéutico puede automatizarse con inteligencia artificial conversacional y modelos de lenguaje grande. El marco, publicado por adelantado antes de su aparición en Current Directions in Psychological Science, clasifica la automatización en cuatro categorías: sistemas guionizados, evaluación de terapeutas, asistencia al terapeuta y provisión directa de terapia.
El equipo analiza la utilidad potencial y los riesgos de cada categoría y señala que herramientas simples presentan riesgos distintos a los de un terapeuta autónomo. Además, advierten que usuarios y sistemas de salud pueden no saber qué nivel de automatización usan, lo que plantea dudas sobre consentimiento y responsabilidad por errores.
Colaboran con SafeUT para desarrollar herramientas que evalúen sesiones de consejeros de crisis y ofrezcan retroalimentación. Imel afirma que los LLM entrenados pueden captar componentes clave del tratamiento y ofrecer retroalimentación oportuna, aunque también advierten sobre la posibilidad de invención de información, sesgos e imprevisibilidad.
Palabras difíciles
- marco — estructura para organizar y analizar un tema
- automatizar — hacer que una máquina haga un trabajoautomatizarse
- conversacional — relacionado con conversar o comunicación entre personas y máquinas
- clasificar — ordenar o dividir cosas en categoríasclasifica
- riesgo — posibilidad de daño, problema o pérdidariesgos
- consentimiento — permiso informado que da una persona antes
- responsabilidad — obligación de responder por acciones o errores
- retroalimentación — comentarios que ayudan a mejorar o corregir
- invención — creación de información falsa o no real
Consejo: pasa el cursor, enfoca o toca las palabras resaltadas en el artículo para ver definiciones rápidas mientras lees o audicións.
Preguntas de discusión
- ¿Crees que las personas deberían saber cuando una IA participa en su terapia? ¿Por qué?
- ¿Qué ventajas ves en usar IA para dar retroalimentación a los terapeutas?
- ¿Cómo se podrían reducir riesgos como sesgos o invención de información?
Artículos relacionados
IA puede estimar el riesgo de TDAH en niños
Un estudio muestra que la inteligencia artificial puede usar registros electrónicos de salud para estimar el riesgo de TDAH años antes del diagnóstico habitual. La herramienta no diagnostica, pero puede señalar niños que necesiten atención anticipada.
