Quatro níveis de automação na terapia com IA ^{CEFR B2}

Um grupo de pesquisadores da University of Utah, liderado por Zac Imel e desenvolvido com Vivek Srikumar, Brent Kious e outros colaboradores, propôs um quadro para avaliar quanto do trabalho terapêutico pode ser automatizado por inteligência artificial conversacional e modelos de linguagem de grande porte. O quadro, publicado antecipadamente na revista Current Directions in Psychological Science, distingue quatro categorias ao longo de um contínuo do baixo ao alto nível de automação.

A Categoria A reúne sistemas roteirizados com conteúdo pré-escrito entregue por chatbots que seguem árvores de decisão; a Categoria B refere-se a IAs que revisam sessões e fornecem feedback ou classificações; a Categoria C engloba IAs que assistem terapeutas sugerindo intervenções e formulações enquanto o humano conduz o atendimento; e a Categoria D descreve agentes autônomos que interagem diretamente com pacientes, possivelmente sob supervisão. Os pesquisadores avaliaram a utilidade e os riscos de cada categoria, observando que ferramentas simples, como registros de notas ou coaching para terapeutas, apresentam perfil de risco distinto de um terapeuta totalmente autônomo.

O grupo ressalta que usuários e serviços de saúde podem não saber qual nível de automação está em uso, o que levanta questões de consentimento, responsabilidade e dos efeitos de erros. Em parceria com a linha de crise por texto SafeUT, desenvolvem ferramentas que avaliam sessões de conselheiros de crise e oferecem feedback para manter e desenvolver competências. Imel afirma que LLMs treinados podem captar rapidamente componentes-chave do tratamento e oferecer retorno em tempo oportuno, mas os autores alertam sobre fabricação de informações, incorporação de vieses e comportamento imprevisível quando LLMs são usados diretamente no aconselhamento. Coautores adicionais vêm da University of Washington, University of Pennsylvania e do Alan Turing Institute, e Zac Imel é cofundador da Lyssn.