Tim peneliti yang dipimpin Zac Imel di University of Utah mempublikasikan kerangka kerja yang menilai seberapa jauh pekerjaan terapi dapat diautomasi oleh kecerdasan buatan percakapan dan model bahasa besar (LLM). Kerangka ini, dipublikasikan lebih dulu sebelum terbit di Current Directions in Psychological Science, membagi automasi menjadi empat kategori penting: sistem berskrip, AI yang menilai terapis, AI yang membantu terapis, dan AI yang memberikan terapi langsung.
Para peneliti mengevaluasi setiap kategori berdasarkan potensi kegunaan dan risikonya. Mereka menyoroti bahwa alat sederhana seperti pencatatan otomatis atau alat pelatihan punya profil risiko berbeda dibandingkan agen AI otonom. Selain itu, pengguna dan sistem kesehatan kadang tidak menyadari tingkat automasi sehingga muncul masalah persetujuan dan tanggung jawab jika terjadi kesalahan.
Tim berencana mengembangkan evaluasi untuk klinisi dan program pembimbingan, serta bermitra dengan SafeUT untuk membuat alat yang menilai sesi konselor krisis dan memberi umpan balik guna mempertahankan keterampilan.
Kata-kata sulit
- kerangka kerja — struktur atau rencana untuk menilai sesuatu
- menilai — memeriksa atau mengukur kualitas atau tingkat
- automasi — penggunaan mesin atau program menggantikan pekerjaan manusia
- model bahasa besar — sistem komputer yang menghasilkan dan memahami teks
- otonom — bekerja sendiri tanpa kontrol manusia langsung
- profil risiko — tingkat kemungkinan terjadinya efek negatif atau bahaya
- persetujuan — izin atau persetujuan seseorang sebelum suatu tindakan
- tanggung jawab — kewajiban untuk menerima konsekuensi atau menjelaskan kesalahan
Tips: arahkan kursor, fokus, atau ketuk kata yang disorot di dalam teks untuk melihat definisi singkat sambil membaca atau mendengarkan.
Pertanyaan diskusi
- Apakah Anda akan lebih percaya pada AI yang membantu terapis atau yang memberikan terapi langsung? Jelaskan alasan singkat.
- Bagaimana menurut Anda sistem kesehatan bisa memastikan persetujuan pasien saat menggunakan alat AI?
- Apa kekhawatiran terbesar jika agen AI otonom digunakan dalam terapi?
Artikel terkait
Kondisi Kesehatan Mental Tingkatkan Risiko Cedera
Studi besar menemukan orang dengan kondisi kesehatan mental lebih sering mengalami cedera fisik, termasuk melukai diri sendiri, penyerangan, serta kecelakaan dan jatuh. Penelitian menyoroti perlunya pencegahan cedera dalam layanan kesehatan mental.
Kecerdasan buatan memperluas akses informasi kesehatan seksual
Organisasi dan peneliti di Amerika Latin menggunakan kecerdasan buatan untuk memberi informasi kesehatan seksual dan reproduksi kepada anak muda dan kelompok terpinggirkan. Proyek di Peru dan Argentina mengatasi hambatan bahasa, stigma, dan keterbatasan layanan.