Рамка для автоматизации терапевтической работы с помощью разговорного ИИ ^{CEFR B2}

Исследование из University of Utah предлагает практическую рамку для понимания того, какие элементы терапевтической работы могут быть автоматизированы с помощью разговорного искусственного интеллекта, в том числе больших языковых моделей. Рамка, опубликованная заранее в журнале Current Directions in Psychological Science, была подготовлена под руководством Zac Imel при участии Vivek Srikumar, Brent Kious и других соавторов; среди соавторов также специалисты из University of Washington, University of Pennsylvania и Alan Turing Institute. Zac Imel является соучредителем Lyssn.

Авторы распределяют автоматизацию по четырём уровням:

• Категория A: скриптованные системы — контент заранее подготовлен людьми и выдаётся чатботами.
• Категория B: ИИ оценивает терапевтов, просматривает сессии и даёт обратную связь или оценки.
• Категория C: ИИ помогает терапевтам, предлагая вмешательства, подсказки и формулировки во время сессии.
• Категория D: ИИ непосредственно проводит терапию как автономный агент, возможно под наблюдением.

Исследователи оценивают каждую категорию по полезности и рискам и подчёркивают, что простые инструменты для заметок отличаются по уровню риска от полностью автономного ИИ-терапевта. Пациенты и медицинские системы не всегда знают, какой уровень автоматизации применяется, что создаёт вопросы согласия, ответственности и последствий ошибок.

Команда планирует улучшать методы оценки клиницистов и наставничества и уже сотрудничает с SafeUT, штатной текстовой кризисной линией штата Юта, чтобы создать инструменты для оценки сессий консультантов и предоставления обратной связи. При этом авторы предупреждают о возможности фабрикации фактов, воспроизведении предубеждений, непредсказуемом поведении ИИ и отклонении от методов, основанных на доказательствах, и рекомендуют начинать с низкорискованных инструментов, одновременно изучая их пользу и вред.