Исследование из University of Utah предлагает практическую рамку для понимания того, какие элементы терапевтической работы могут быть автоматизированы с помощью разговорного искусственного интеллекта, в том числе больших языковых моделей. Рамка, опубликованная заранее в журнале Current Directions in Psychological Science, была подготовлена под руководством Zac Imel при участии Vivek Srikumar, Brent Kious и других соавторов; среди соавторов также специалисты из University of Washington, University of Pennsylvania и Alan Turing Institute. Zac Imel является соучредителем Lyssn.
Авторы распределяют автоматизацию по четырём уровням:
- Категория A: скриптованные системы — контент заранее подготовлен людьми и выдаётся чатботами.
- Категория B: ИИ оценивает терапевтов, просматривает сессии и даёт обратную связь или оценки.
- Категория C: ИИ помогает терапевтам, предлагая вмешательства, подсказки и формулировки во время сессии.
- Категория D: ИИ непосредственно проводит терапию как автономный агент, возможно под наблюдением.
Исследователи оценивают каждую категорию по полезности и рискам и подчёркивают, что простые инструменты для заметок отличаются по уровню риска от полностью автономного ИИ-терапевта. Пациенты и медицинские системы не всегда знают, какой уровень автоматизации применяется, что создаёт вопросы согласия, ответственности и последствий ошибок.
Команда планирует улучшать методы оценки клиницистов и наставничества и уже сотрудничает с SafeUT, штатной текстовой кризисной линией штата Юта, чтобы создать инструменты для оценки сессий консультантов и предоставления обратной связи. При этом авторы предупреждают о возможности фабрикации фактов, воспроизведении предубеждений, непредсказуемом поведении ИИ и отклонении от методов, основанных на доказательствах, и рекомендуют начинать с низкорискованных инструментов, одновременно изучая их пользу и вред.
Сложные слова
- рамка — описание структуры или подхода к задачерамку
- скриптованный — сделанный по заранее подготовленному сценариюскриптованные
- чатбот — программа для общения с людьми автоматическичатботами
- вмешательство — действие, направленное на изменение хода событийвмешательства
- автономный — работающий без постоянного контроля человека
- фабрикация — создание ложной или выдуманной информациифабрикации
- предубеждение — негативное или искажённое отношение к группепредубеждений
- согласие — разрешение человека на участие или действиесогласия
Подсказка: наведите, сфокусируйтесь или нажмите на выделенные слова, чтобы увидеть краткие определения прямо во время чтения или прослушивания.
Вопросы для обсуждения
- Какие преимущества и риски вы видите при использовании ИИ в роли помощника терапевта (Категория C)? Приведите примеры.
- Какие меры могли бы снизить риск фабрикации фактов и воспроизведения предубеждений в ИИ для терапии?
Похожие статьи
У многих умерших от суицида не было депрессии
Генетическое исследование Университета Юты показало: многие люди, умершие в результате самоубийства, не имели диагностированной депрессии. Ученые сравнили генетические данные и предупреждают, что скрининг только по депрессии может пропускать риск.
MXenes в умной одежде для здоровья
Учёные изучают умные ткани с MXenes — двумерными материалами, которые могут измерять температуру, пульс и давление, иметь антимикробные свойства и собирать солнечную энергию. В обзоре отмечают и проблемы с коррозией и устойчивостью производства.
Энергетическая нестабильность и психическое здоровье в США
Новое исследование связывает проблемы с энергией у американских домохозяйств с повышением симптомов тревоги и депрессии. Учёные проанализировали данные опроса Household Pulse Survey и предлагают проверять энергетическую нестабильность в медицинской практике.
