Исследование из University of Utah предлагает практическую рамку для понимания того, какие элементы терапевтической работы могут быть автоматизированы с помощью разговорного искусственного интеллекта, в том числе больших языковых моделей. Рамка, опубликованная заранее в журнале Current Directions in Psychological Science, была подготовлена под руководством Zac Imel при участии Vivek Srikumar, Brent Kious и других соавторов; среди соавторов также специалисты из University of Washington, University of Pennsylvania и Alan Turing Institute. Zac Imel является соучредителем Lyssn.
Авторы распределяют автоматизацию по четырём уровням:
- Категория A: скриптованные системы — контент заранее подготовлен людьми и выдаётся чатботами.
- Категория B: ИИ оценивает терапевтов, просматривает сессии и даёт обратную связь или оценки.
- Категория C: ИИ помогает терапевтам, предлагая вмешательства, подсказки и формулировки во время сессии.
- Категория D: ИИ непосредственно проводит терапию как автономный агент, возможно под наблюдением.
Исследователи оценивают каждую категорию по полезности и рискам и подчёркивают, что простые инструменты для заметок отличаются по уровню риска от полностью автономного ИИ-терапевта. Пациенты и медицинские системы не всегда знают, какой уровень автоматизации применяется, что создаёт вопросы согласия, ответственности и последствий ошибок.
Команда планирует улучшать методы оценки клиницистов и наставничества и уже сотрудничает с SafeUT, штатной текстовой кризисной линией штата Юта, чтобы создать инструменты для оценки сессий консультантов и предоставления обратной связи. При этом авторы предупреждают о возможности фабрикации фактов, воспроизведении предубеждений, непредсказуемом поведении ИИ и отклонении от методов, основанных на доказательствах, и рекомендуют начинать с низкорискованных инструментов, одновременно изучая их пользу и вред.
Сложные слова
- рамка — описание структуры или подхода к задачерамку
- скриптованный — сделанный по заранее подготовленному сценариюскриптованные
- чатбот — программа для общения с людьми автоматическичатботами
- вмешательство — действие, направленное на изменение хода событийвмешательства
- автономный — работающий без постоянного контроля человека
- фабрикация — создание ложной или выдуманной информациифабрикации
- предубеждение — негативное или искажённое отношение к группепредубеждений
- согласие — разрешение человека на участие или действиесогласия
Подсказка: наведите, сфокусируйтесь или нажмите на выделенные слова, чтобы увидеть краткие определения прямо во время чтения или прослушивания.
Вопросы для обсуждения
- Какие преимущества и риски вы видите при использовании ИИ в роли помощника терапевта (Категория C)? Приведите примеры.
- Какие меры могли бы снизить риск фабрикации фактов и воспроизведения предубеждений в ИИ для терапии?
Похожие статьи
Почему языковые модели ошибаются при умножении четырёхзначных чисел
Новое исследование показало, что современные большие языковые модели плохо умножают четырёхзначные числа, потому что не хранят и не используют промежуточные результаты. Метод ICoT и дополнительные цели обучения помогают моделям запоминать шаги и давать правильный ответ.
ИИ выявляет риск ADHD по медицинским картам
Учёные показали, что искусственный интеллект может по рутинным электронным медицинским картам предсказать риск развития ADHD у детей за годы до диагноза. Инструмент не ставит диагноз, а помогает выделить детей для раннего наблюдения и оценки.
