Các nhà nghiên cứu tại University of Utah, do Zac Imel dẫn đầu cùng cộng sự, đã phát triển một khuôn khổ nhằm làm rõ mức độ công việc trị liệu có thể được tự động hóa bằng các hệ thống trò chuyện dựa trên trí tuệ nhân tạo và mô hình ngôn ngữ lớn.
Khuôn khổ mô tả bốn hạng mục tự động hóa theo một phổ từ thấp đến cao: A là hệ thống theo kịch bản; B là AI đánh giá các phiên trị liệu; C là AI hỗ trợ nhà trị liệu bằng gợi ý can thiệp hoặc câu hỏi; D là AI trực tiếp cung cấp trị liệu như một tác nhân tự trị. Nhóm đánh giá mỗi hạng mục về tính hữu ích và rủi ro tiềm tàng.
Họ lưu ý rằng các công cụ ít rủi ro như công cụ ghi chú khác với AI trị liệu tự trị. Nhóm sẽ phát triển công cụ đánh giá và cố vấn cho chuyên gia, và hợp tác với SafeUT để đánh giá phiên của tư vấn viên khủng hoảng và cho phản hồi. Họ cũng cảnh báo về hiện tượng bịa đặt thông tin và thành kiến trong AI.
Từ khó
- khuôn khổ — một cách tổ chức ý tưởng hoặc quy trình
- tự động hóa — dùng máy hoặc phần mềm thay con người làm việc
- hạng mục — một mục hoặc nhóm công việc được phân loại
- kịch bản — chuỗi hành động hoặc lời nói theo hướng dẫn
- đánh giá — xem xét và cho nhận xét về chất lượng
- rủi ro — khả năng xảy ra điều xấu hoặc có hại
- bịa đặt — tạo ra thông tin không đúng sự thật
Mẹo: di chuột, dùng phím Tab hoặc chạm vào các từ được tô sáng trong bài để xem định nghĩa nhanh ngay khi bạn đọc hoặc nghe.
Câu hỏi thảo luận
- Bạn có nghĩ AI có thể thay thế nhà trị liệu hoàn toàn không? Tại sao?
- Nếu bạn đi trị liệu, bạn sẽ chấp nhận AI hỗ trợ nhà trị liệu (hạng mục C) không? Lý do?
- Những biện pháp nào có thể giúp giảm rủi ro bịa đặt thông tin trong hệ thống AI?
Bài viết liên quan
Tại sao mô hình ngôn ngữ lớn khó nhân số bốn chữ số
Một nghiên cứu do University of Chicago dẫn đầu giải thích vì sao nhiều mô hình ngôn ngữ lớn không nhân đúng hai số có bốn chữ số. Nghiên cứu so sánh huấn luyện tinh chỉnh tiêu chuẩn và phương pháp Chuỗi suy luận ẩn (ICoT) và thấy ICoT giúp mô hình lưu và dùng kết quả trung gian.
