Um grupo de pesquisadores da University of Utah, liderado por Zac Imel e desenvolvido com Vivek Srikumar, Brent Kious e outros colaboradores, propôs um quadro para avaliar quanto do trabalho terapêutico pode ser automatizado por inteligência artificial conversacional e modelos de linguagem de grande porte. O quadro, publicado antecipadamente na revista Current Directions in Psychological Science, distingue quatro categorias ao longo de um contínuo do baixo ao alto nível de automação.
A Categoria A reúne sistemas roteirizados com conteúdo pré-escrito entregue por chatbots que seguem árvores de decisão; a Categoria B refere-se a IAs que revisam sessões e fornecem feedback ou classificações; a Categoria C engloba IAs que assistem terapeutas sugerindo intervenções e formulações enquanto o humano conduz o atendimento; e a Categoria D descreve agentes autônomos que interagem diretamente com pacientes, possivelmente sob supervisão. Os pesquisadores avaliaram a utilidade e os riscos de cada categoria, observando que ferramentas simples, como registros de notas ou coaching para terapeutas, apresentam perfil de risco distinto de um terapeuta totalmente autônomo.
O grupo ressalta que usuários e serviços de saúde podem não saber qual nível de automação está em uso, o que levanta questões de consentimento, responsabilidade e dos efeitos de erros. Em parceria com a linha de crise por texto SafeUT, desenvolvem ferramentas que avaliam sessões de conselheiros de crise e oferecem feedback para manter e desenvolver competências. Imel afirma que LLMs treinados podem captar rapidamente componentes-chave do tratamento e oferecer retorno em tempo oportuno, mas os autores alertam sobre fabricação de informações, incorporação de vieses e comportamento imprevisível quando LLMs são usados diretamente no aconselhamento. Coautores adicionais vêm da University of Washington, University of Pennsylvania e do Alan Turing Institute, e Zac Imel é cofundador da Lyssn.
Palavras difíceis
- automação — uso de máquinas ou software para fazer tarefas
- quadro — estrutura ou plano para analisar um assunto
- roteirizado — que segue um roteiro predefinidoroteirizados
- árvore de decisão — diagrama que orienta opções com base em condiçõesárvores de decisão
- agente autônomo — sistema que age sozinho sem intervenção humanaagentes autônomos
- viés — tendência que distorce resultados ou julgamentosvieses
- consentimento — acordo informado para permitir uma ação
Dica: passe o mouse, foque ou toque nas palavras destacadas no artigo para ver definições rápidas enquanto lê ou ouve.
Perguntas para discussão
- Quais medidas práticas podem aumentar o consentimento informado quando serviços usam diferentes níveis de automação? Dê exemplos.
- Como ferramentas que revisam sessões e dão feedback podem ajudar na formação de conselheiros e terapeutas?
- Que vantagens e riscos você vê em agentes autônomos que interagem diretamente com pacientes, mesmo sob supervisão?
Artigos relacionados
IA ajuda jovens a ter informação em saúde sexual
Organizações na América Latina usam inteligência artificial para oferecer informação sobre saúde sexual e reprodutiva a jovens e grupos marginalizados. Projetos no Peru e na Argentina focam línguas locais, orientação científica e redução de estigma.
Resumos de áudio por IA ajudam, mas têm erros em pesquisas sobre Marte
O serviço NotebookLM do Google transforma artigos científicos em resumos de áudio no estilo podcast que são envolventes, mas também apresentam erros e extrapolações. Os autores recomendam ler o material original e acham o recurso útil, sem substituir a leitura crítica.
