Pesquisadores da University of Utah liderados por Zac Imel publicaram um quadro para medir quanto do trabalho terapêutico pode ser automatizado à medida que modelos de linguagem e outras IAs conversacionais se tornam mais comuns. O objetivo é esclarecer o que está sendo automatizado e separar questões práticas de uso, risco e responsabilidade da ideia de que máquinas substituirão terapeutas.
O quadro apresenta quatro categorias ao longo de um contínuo: sistemas roteirizados com conteúdo pré-escrito; IA que revisa sessões e fornece feedback; IA que assiste terapeutas com sugestões e formulações; e agentes autônomos que fornecem terapia diretamente. Os autores avaliam utilidade e risco de cada categoria e destacam que ferramentas simples, como registro de notas ou coaching, têm menos risco que um terapeuta totalmente autônomo.
Em parceria com a SafeUT, a equipe cria ferramentas para avaliar sessões de conselheiros de crise e oferecer feedback. Imel afirma que LLMs treinados podem identificar componentes-chave do tratamento e dar retorno em tempo oportuno, algo raro hoje em escala. Também alertam para fabricação de informações, vieses e comportamento imprevisível quando LLMs são usados diretamente no aconselhamento.
Palavras difíceis
- quadro — estrutura para organizar ideias ou informações
- automatizar — tornar um processo feito por máquinasautomatizado
- contínuo — que continua sem interrupção ou pausa
- roteirizado — feito com textos ou instruções pré-escritasroteirizados
- assistir — ajudar ou apoiar alguém no trabalhoassiste
- autônomo — que age de forma independente, sem supervisãoautônomos
- responsabilidade — obrigação de responder por ações ou erros
- retorno — informação ou comentário sobre desempenho
- viés — tendência que pode distorcer resultadosvieses
Dica: passe o mouse, foque ou toque nas palavras destacadas no artigo para ver definições rápidas enquanto lê ou ouve.
Perguntas para discussão
- Você acha que ferramentas automatizadas podem melhorar o trabalho dos terapeutas? Por quê?
- Quais riscos você mais teme quando IAs são usadas no aconselhamento? Dê uma razão curta.
- Como você se sentiria recebendo terapia de um agente autônomo em vez de um ser humano? Explique em duas frases.
Artigos relacionados
Estudo alerta para riscos de segurança em navegadores com agentes de IA
Pesquisadores dizem que navegadores com agentes de IA podem permitir que sites roubem dados de outros sites no mesmo navegador. Um teste prático mostrou brechas e os autores pedem mais cuidados antes do uso público.
Resumos de áudio por IA ajudam, mas têm erros em pesquisas sobre Marte
O serviço NotebookLM do Google transforma artigos científicos em resumos de áudio no estilo podcast que são envolventes, mas também apresentam erros e extrapolações. Os autores recomendam ler o material original e acham o recurso útil, sem substituir a leitura crítica.
