Investigadores liderados por Zac Imel en la University of Utah publicaron un marco para evaluar cuánto del trabajo terapéutico puede automatizarse con inteligencia artificial conversacional y modelos de lenguaje grande. El marco, publicado por adelantado antes de su aparición en Current Directions in Psychological Science, clasifica la automatización en cuatro categorías: sistemas guionizados, evaluación de terapeutas, asistencia al terapeuta y provisión directa de terapia.
El equipo analiza la utilidad potencial y los riesgos de cada categoría y señala que herramientas simples presentan riesgos distintos a los de un terapeuta autónomo. Además, advierten que usuarios y sistemas de salud pueden no saber qué nivel de automatización usan, lo que plantea dudas sobre consentimiento y responsabilidad por errores.
Colaboran con SafeUT para desarrollar herramientas que evalúen sesiones de consejeros de crisis y ofrezcan retroalimentación. Imel afirma que los LLM entrenados pueden captar componentes clave del tratamiento y ofrecer retroalimentación oportuna, aunque también advierten sobre la posibilidad de invención de información, sesgos e imprevisibilidad.
Palabras difíciles
- marco — estructura para organizar y analizar un tema
- automatizar — hacer que una máquina haga un trabajoautomatizarse
- conversacional — relacionado con conversar o comunicación entre personas y máquinas
- clasificar — ordenar o dividir cosas en categoríasclasifica
- riesgo — posibilidad de daño, problema o pérdidariesgos
- consentimiento — permiso informado que da una persona antes
- responsabilidad — obligación de responder por acciones o errores
- retroalimentación — comentarios que ayudan a mejorar o corregir
- invención — creación de información falsa o no real
Consejo: pasa el cursor, enfoca o toca las palabras resaltadas en el artículo para ver definiciones rápidas mientras lees o audicións.
Preguntas de discusión
- ¿Crees que las personas deberían saber cuando una IA participa en su terapia? ¿Por qué?
- ¿Qué ventajas ves en usar IA para dar retroalimentación a los terapeutas?
- ¿Cómo se podrían reducir riesgos como sesgos o invención de información?
Artículos relacionados
Inseguridad energética y más ansiedad y depresión en Estados Unidos
Un estudio publicado en JAMA Network Open relaciona la inseguridad energética con tasas más altas de ansiedad y depresión en hogares de Estados Unidos. Los investigadores usan datos de la Encuesta Household Pulse del censo.
Por qué los modelos fallan al multiplicar números largos
Una investigación analiza por qué modelos de lenguaje no pueden multiplicar números de varias cifras. Compararon el ajuste fino estándar con un método llamado cadena de pensamiento implícita (ICoT), que sí aprendió a guardar cálculos intermedios.
IA para mejorar el acceso a la salud sexual en América Latina
Grupos e investigadores en América Latina usan inteligencia artificial para ofrecer información sobre salud sexual y reproductiva a jóvenes y comunidades marginadas. Proyectos en Perú y Argentina buscan reducir barreras y enfrentan retos como el sesgo de datos.
Estudio: más actividad cerebral en personas con TOC durante una tarea secuencial
Un estudio con resonancia magnética funcional encontró que personas con trastorno obsesivo-compulsivo muestran mayor actividad en varias regiones cerebrales al realizar una tarea secuencial. Los autores sugieren que esto podría orientar tratamientos como la TMS.