Исследователи из University of Utah разработали рамку для оценки того, какие части терапевтической работы можно автоматизировать по мере развития разговорного искусственного интеллекта. Рамка была опубликована заранее в журнале Current Directions in Psychological Science. Работу возглавлял Zac Imel совместно с Vivek Srikumar, Brent Kious и другими соавторами.
Авторы выделяют четыре категории автоматизации: A — скриптованные системы с заранее подготовленным контентом; B — системы, где ИИ просматривает сессии и даёт оценки или обратную связь; C — ИИ помогает терапевтам, предлагая вмешательства и подсказки во время сессии; D — автономный ИИ, который непосредственно взаимодействует с пациентами, возможно под наблюдением. Каждую категорию оценивают с точки зрения полезности и риска.
Команда сотрудничает с кризисной текстовой линией в Юте (SafeUT), чтобы создавать инструменты оценки сессий и поддержки навыков консультантов. Исследователи предупреждают о рисках: ИИ может фабриковать информацию, воспроизводить предубеждения и не всегда следовать методам, основанным на доказательствах. Они предлагают начинать с более лёгких низкорискованных инструментов и одновременно изучать пользу и вред.
Сложные слова
- рамка — структура для оценки и организации идейрамку
- автоматизировать — вводить автоматические процессы вместо ручной работы
- искусственный интеллект — компьютерные системы, которые имитируют человеческий разумискусственного интеллекта
- скриптованный — с заранее подготовленным текстом или планомскриптованные
- оценка — суждение или число о качестве или эффективностиоценки
- фабриковать — делать или придумывать что-то ложное
- предубеждение — несправедливое мнение о людях или группахпредубеждения
- вмешательство — действие, чтобы изменить ход ситуации или лечениявмешательства
Подсказка: наведите, сфокусируйтесь или нажмите на выделенные слова, чтобы увидеть краткие определения прямо во время чтения или прослушивания.
Вопросы для обсуждения
- Какие преимущества может дать автоматизация некоторых частей терапевтической работы?
- Какие меры могли бы уменьшить риски, связанные с использованием ИИ в терапии?
- В каких ситуациях автономный ИИ в терапевтической работе может быть полезен или опасен?
Похожие статьи
Почему языковые модели ошибаются при умножении четырёхзначных чисел
Новое исследование показало, что современные большие языковые модели плохо умножают четырёхзначные числа, потому что не хранят и не используют промежуточные результаты. Метод ICoT и дополнительные цели обучения помогают моделям запоминать шаги и давать правильный ответ.
ИИ выявляет риск ADHD по медицинским картам
Учёные показали, что искусственный интеллект может по рутинным электронным медицинским картам предсказать риск развития ADHD у детей за годы до диагноза. Инструмент не ставит диагноз, а помогает выделить детей для раннего наблюдения и оценки.
