Investigadores liderados por Zac Imel en la University of Utah publicaron un marco para evaluar cuánto del trabajo terapéutico puede automatizarse con inteligencia artificial conversacional y modelos de lenguaje grande. El marco, publicado por adelantado antes de su aparición en Current Directions in Psychological Science, clasifica la automatización en cuatro categorías: sistemas guionizados, evaluación de terapeutas, asistencia al terapeuta y provisión directa de terapia.
El equipo analiza la utilidad potencial y los riesgos de cada categoría y señala que herramientas simples presentan riesgos distintos a los de un terapeuta autónomo. Además, advierten que usuarios y sistemas de salud pueden no saber qué nivel de automatización usan, lo que plantea dudas sobre consentimiento y responsabilidad por errores.
Colaboran con SafeUT para desarrollar herramientas que evalúen sesiones de consejeros de crisis y ofrezcan retroalimentación. Imel afirma que los LLM entrenados pueden captar componentes clave del tratamiento y ofrecer retroalimentación oportuna, aunque también advierten sobre la posibilidad de invención de información, sesgos e imprevisibilidad.
Palabras difíciles
- marco — estructura para organizar y analizar un tema
- automatizar — hacer que una máquina haga un trabajoautomatizarse
- conversacional — relacionado con conversar o comunicación entre personas y máquinas
- clasificar — ordenar o dividir cosas en categoríasclasifica
- riesgo — posibilidad de daño, problema o pérdidariesgos
- consentimiento — permiso informado que da una persona antes
- responsabilidad — obligación de responder por acciones o errores
- retroalimentación — comentarios que ayudan a mejorar o corregir
- invención — creación de información falsa o no real
Consejo: pasa el cursor, enfoca o toca las palabras resaltadas en el artículo para ver definiciones rápidas mientras lees o escuchas.
Preguntas de discusión
- ¿Crees que las personas deberían saber cuando una IA participa en su terapia? ¿Por qué?
- ¿Qué ventajas ves en usar IA para dar retroalimentación a los terapeutas?
- ¿Cómo se podrían reducir riesgos como sesgos o invención de información?
Artículos relacionados
Estimulación magnética reduce la reactividad de la amígdala en TEPT
Un estudio encontró que la estimulación magnética transcraneal (TMS) dirigida puede calmar la amígdala y mejorar los síntomas del TEPT. El tratamiento fue personalizado con resonancia magnética y mostró beneficios que duraron al menos seis meses.
Patrones de bandadas reducen errores de la IA en resúmenes
Investigadores adaptaron patrones de bandadas de aves para preprocesar textos largos antes de pasarlos a modelos de lenguaje. El método selecciona oraciones representativas y reduce la redundancia, lo que mejora la exactitud factual de los resúmenes.
Mejorar la seguridad en modelos de lenguaje
Investigadores de North Carolina State University estudiaron cómo mejorar el alineamiento de seguridad en modelos de lenguaje grande. Identificaron neuronas clave y probaron congelarlas al afinar para reducir salidas inseguras sin perder rendimiento.