Pesquisadores da University of Utah liderados por Zac Imel publicaram um quadro para medir quanto do trabalho terapêutico pode ser automatizado à medida que modelos de linguagem e outras IAs conversacionais se tornam mais comuns. O objetivo é esclarecer o que está sendo automatizado e separar questões práticas de uso, risco e responsabilidade da ideia de que máquinas substituirão terapeutas.
O quadro apresenta quatro categorias ao longo de um contínuo: sistemas roteirizados com conteúdo pré-escrito; IA que revisa sessões e fornece feedback; IA que assiste terapeutas com sugestões e formulações; e agentes autônomos que fornecem terapia diretamente. Os autores avaliam utilidade e risco de cada categoria e destacam que ferramentas simples, como registro de notas ou coaching, têm menos risco que um terapeuta totalmente autônomo.
Em parceria com a SafeUT, a equipe cria ferramentas para avaliar sessões de conselheiros de crise e oferecer feedback. Imel afirma que LLMs treinados podem identificar componentes-chave do tratamento e dar retorno em tempo oportuno, algo raro hoje em escala. Também alertam para fabricação de informações, vieses e comportamento imprevisível quando LLMs são usados diretamente no aconselhamento.
Palavras difíceis
- quadro — estrutura para organizar ideias ou informações
- automatizar — tornar um processo feito por máquinasautomatizado
- contínuo — que continua sem interrupção ou pausa
- roteirizado — feito com textos ou instruções pré-escritasroteirizados
- assistir — ajudar ou apoiar alguém no trabalhoassiste
- autônomo — que age de forma independente, sem supervisãoautônomos
- responsabilidade — obrigação de responder por ações ou erros
- retorno — informação ou comentário sobre desempenho
- viés — tendência que pode distorcer resultadosvieses
Dica: passe o mouse, foque ou toque nas palavras destacadas no artigo para ver definições rápidas enquanto lê ou ouve.
Perguntas para discussão
- Você acha que ferramentas automatizadas podem melhorar o trabalho dos terapeutas? Por quê?
- Quais riscos você mais teme quando IAs são usadas no aconselhamento? Dê uma razão curta.
- Como você se sentiria recebendo terapia de um agente autônomo em vez de um ser humano? Explique em duas frases.
Artigos relacionados
Pesquisa genética indica que nem todos que morrem por suicídio têm depressão
Um estudo genético sugere que muitas pessoas que morrem por suicídio não tinham depressão nem sinais claros. Pesquisadores analisaram dados anônimos e dizem que aumentar só o rastreio da depressão pode não identificar todos os casos.
Sinais de segurança em modelos de linguagem
Pesquisadores da North Carolina State University estudaram como melhorar o alinhamento de segurança em modelos de linguagem. Propuseram a Hipótese de Alinhamento de Segurança Superficial (SSAH) e mostraram que congelar neurónios críticos pode preservar a segurança durante o ajuste fino.
Reação a erros pode prever aumento da evasão
Pesquisadores descobriram que a forma como as pessoas reagem a erros pode indicar um aumento posterior do comportamento de evitar situações desconfortáveis. O estudo acompanhou participantes e mediu a atividade cerebral após erros para comparar mudanças ao longo do tempo.
