Peneliti di University of Utah, dipimpin Zac Imel bersama Vivek Srikumar, Brent Kious, dan kolaborator lain, mengembangkan kerangka kerja untuk menilai sejauh mana pekerjaan terapi dapat diautomasi oleh kecerdasan buatan percakapan, terutama model bahasa besar (LLM). Makalah yang dipublikasikan lebih dulu sebelum terbit di Current Directions in Psychological Science memperkenalkan empat kategori automasi dan menilai kegunaan serta risikonya.
Kategori automasi adalah:
- Kategori A: sistem berskrip dengan konten yang ditulis manusia.
- Kategori B: AI yang menilai sesi terapis dan memberi umpan balik.
- Kategori C: AI yang membantu terapis dengan saran intervensi.
- Kategori D: AI otonom yang memberi terapi langsung kepada pasien.
Tim menekankan bahwa alat sederhana seperti pencatatan otomatis atau alat pelatihan memiliki risiko berbeda dibanding agen otonom. Mereka juga mencatat bahwa pengguna dan penyedia layanan kadang tidak menyadari tingkat automasi, sehingga timbul pertanyaan tentang persetujuan, tanggung jawab, dan dampak kesalahan. Untuk itu, tim bermitra dengan SafeUT—layanan krisis teks di Utah—untuk membuat alat penilaian sesi konselor dan memberi umpan balik yang membantu mempertahankan dan mengembangkan keterampilan.
Peneliti memperingatkan risiko penggunaan LLM langsung untuk konseling, termasuk kemungkinan memalsukan informasi, mengandung bias, berperilaku tak terduga, dan tidak selalu mengikuti teknik psikoterapi berbasis bukti. Makalah menyarankan memulai dengan alat ringan dan berisiko rendah sambil mengkaji manfaat serta bahaya. Penulis tambahan berasal dari University of Washington, University of Pennsylvania, dan Alan Turing Institute; Zac Imel juga merupakan salah satu pendiri Lyssn.
Kata-kata sulit
- kerangka kerja — struktur atau rencana untuk menilai sesuatu
- automasi — penggantian tugas manusia dengan sistem mesin
- kecerdasan buatan — sistem komputer yang meniru kemampuan manusia
- model bahasa besar — program besar yang memproses dan menghasilkan teksmodel bahasa besar (LLM)
- otonom — bekerja sendiri tanpa kontrol manusia langsung
- umpan balik — informasi tentang hasil atau kinerja
- risiko — kemungkinan terjadinya hal buruk atau masalah
- psikoterapi berbasis bukti — terapi yang didukung oleh penelitian ilmiah
- memalsukan — membuat sesuatu seolah-olah asli atau benar
- tak terduga — tidak bisa diprediksi atau tidak terencana
Tips: arahkan kursor, fokus, atau ketuk kata yang disorot di dalam teks untuk melihat definisi singkat sambil membaca atau mendengarkan.
Pertanyaan diskusi
- Menurut Anda, apa keuntungan dan bahaya utama jika AI mulai membantu pekerjaan terapi seperti yang disebutkan dalam artikel?
- Bagaimana sebaiknya penyedia layanan menjelaskan tingkat automasi kepada klien agar persetujuan menjadi jelas?
- Alat ringan seperti pencatatan otomatis memiliki risiko berbeda dibanding agen otonom. Berikan contoh bagaimana perbedaan risiko itu bisa muncul.
Artikel terkait
Duka dan Kenangan Hewan Peliharaan di Musim Liburan
Musim liburan sering membangkitkan rasa rindu dan duka atas hewan peliharaan. Artikel ini menjelaskan duka antisipatif, memberi saran untuk menghargai waktu bersama hewan yang menua, dan ide-ide untuk mengenang hewan yang telah pergi.
Jejak Otak untuk Menyesuaikan Perilaku dengan Orang Lain
Penelitian University of Zurich menunjukkan bagaimana aktivitas otak membantu orang menebak pikiran orang lain dan mengubah perilaku. Temuan ini menjelaskan proses "mentalisasi adaptif" dan dapat membantu memahami disabilitas sosial seperti autisme dan gangguan kepribadian.
Ringkasan Audio AI untuk Makalah Mars: Menarik tapi Rentan Salah
NotebookLM Google mengubah makalah penelitian tentang vulkanisme Mars menjadi ringkasan audio bergaya podcast yang mudah diikuti. Peneliti menemukan hasil yang menarik namun berisi kesalahan, sehingga pembacaan sumber asli tetap diperlukan.
Model Bahasa AI dan Pemahaman Dunia Nyata
Peneliti dari Brown University menguji apakah model bahasa AI bisa membedakan peristiwa yang umum, tidak mungkin, mustahil, atau tidak masuk akal. Mereka menggunakan metode untuk melihat keadaan internal model dan menemukan vektor plausibilitas yang sesuai dengan penilaian manusia.