Un equipo de la University of Utah, liderado por Zac Imel y con colaboradores como Vivek Srikumar y Brent Kious, ha propuesto un marco para evaluar hasta qué punto la labor terapéutica puede automatizarse a medida que los modelos de lenguaje grande (LLMs) se integran en la práctica clínica. El trabajo, publicado por adelantado antes de su aparición en Current Directions in Psychological Science, describe cuatro categorías de automatización que van desde baja hasta alta:
- Categoría A: sistemas guionizados con contenido redactado por humanos.
- Categoría B: IA que evalúa a los terapeutas y puntúa sesiones.
- Categoría C: IA que asiste al terapeuta con sugerencias.
- Categoría D: IA que proporciona terapia directamente con un agente autónomo.
Los autores evalúan la utilidad y el riesgo de cada categoría y subrayan que herramientas simples, como asistentes para tomar notas o apps de coaching, no implican los mismos riesgos que un terapeuta autónomo. Señalan también que usuarios y sistemas de salud pueden no saber qué nivel de automatización se emplea, lo que complica el consentimiento, la responsabilidad y las consecuencias de errores.
El equipo colabora con SafeUT, la línea estatal de crisis por mensaje de texto de Utah, para desarrollar herramientas que evalúen sesiones de consejeros de crisis y ofrezcan retroalimentación que ayude a mantener y desarrollar habilidades. Imel afirma que LLMs entrenados pueden capturar componentes clave del tratamiento y ofrecer retroalimentación oportuna a escala, pero los autores advierten sobre la fabricación de información, la incorporación de sesgos y la conducta impredecible de estos modelos. Recomiendan empezar con herramientas más ligeras y de menor riesgo mientras se investigan beneficios y daños. Otros coautores proceden de la University of Washington, la University of Pennsylvania y el Alan Turing Institute; Zac Imel es cofundador de Lyssn.
Palabras difíciles
- automatizar — hacer que una tarea funcione sin intervención humanaautomatizarse
- modelo — representación o sistema que procesa datos y lenguajemodelos
- categoría — grupo que clasifica elementos según características
- riesgo — posibilidad de daño o resultado negativoriesgos
- consentimiento — aceptación informada y voluntaria de una acción
- responsabilidad — obligación de responder por actos y consecuencias
- sesgo — tendencia o prejuicio que distorsiona resultadossesgos
- retroalimentación — comentarios que ayudan a mejorar una tarea
- evaluar — examinar o valorar la calidad o desempeñoevalúan
- integrar — incorporar algo dentro de un sistema o procesointegran
Consejo: pasa el cursor, enfoca o toca las palabras resaltadas en el artículo para ver definiciones rápidas mientras lees o audicións.
Preguntas de discusión
- Según el texto, ¿qué ventajas y qué riesgos tiene usar IA para asistir a terapeutas (categoría C)? Explica con ejemplos breves.
- El artículo recomienda empezar con herramientas de menor riesgo. ¿Por qué te parece una estrategia adecuada o no? Da razones relacionadas con el texto.
- ¿Cómo se podría informar a los usuarios sobre el nivel de automatización que usa una app de salud mental? Propón dos medidas prácticas.
Artículos relacionados
Estudio genético: no todos los suicidios están ligados a la depresión
Una investigación genética halló que muchas personas que mueren por suicidio no muestran depresión ni señales previas. El estudio compara datos genéticos y sugiere que los cribados solo por depresión pueden no identificar a todos los casos en riesgo.
La inteligencia artificial en las escuelas de EE. UU.
La inteligencia artificial ya está presente en muchas escuelas de Estados Unidos. Un estudio y la experiencia de docentes muestran beneficios para tareas rutinarias, pero también preocupación por las relaciones con los estudiantes y la equidad.
Plomo en la infancia y más síntomas depresivos en adolescentes
Un estudio asocia concentraciones mayores de plomo en sangre durante la infancia con un aumento de síntomas depresivos en la adolescencia. Los autores señalan que la exposición alrededor de los 8 años fue especialmente importante.
IA puede estimar el riesgo de TDAH en niños
Un estudio muestra que la inteligencia artificial puede usar registros electrónicos de salud para estimar el riesgo de TDAH años antes del diagnóstico habitual. La herramienta no diagnostica, pero puede señalar niños que necesiten atención anticipada.