Nhiều công cụ AI lan rộng nhanh và gây quan ngại về thiên vị. Các báo cáo chỉ ra rằng hệ thống thiên vị đã dẫn tới việc điều trị y tế khác nhau theo đặc điểm nhân khẩu và tới công cụ tuyển dụng phân biệt với phụ nữ và người da đen.
Nghiên cứu của University of Texas at Austin, do Hüseyin Tanriverdi cùng John-Patrick Akinyemi thực hiện, phân tích một tập gồm 363 thuật toán mà người khác đã xác định là có thiên vị. Các thuật toán này lấy từ kho dữ liệu AI Algorithmic and Automation Incidents and Controversies. Các nhà nghiên cứu so sánh mỗi thuật toán gây vấn đề với một thuật toán tương tự chưa bị gọi là thiên vị và kiểm tra cả tổ chức tạo ra chúng.
Họ xác định ba yếu tố tăng rủi ro: không có độ thật đã thiết lập, mô hình bỏ sót các biến quan trọng của thế giới thực (ví dụ thay người đến thăm nhà bằng quyết định tự động về quyền lợi Medicaid), và thiếu sự tham gia đa dạng của các bên liên quan. Nghiên cứu kết luận cần mở hộp đen mô hình và dùng dữ liệu đa dạng để cải thiện công bằng.
Từ khó
- thiên vị — đối xử không công bằng với một nhóm người
- thuật toán — chương trình máy tính để giải quyết vấn đềthuật toán này
- mô hình — mô tả cách hoạt động của một hệ thống
- dữ liệu — thông tin dùng để phân tích hoặc họcdữ liệu đa dạng
- đa dạng — có nhiều loại hoặc đặc điểm khác nhau
- hộp đen — một hệ thống khó hiểu hoặc không minh bạch
- tổ chức — nhóm người hoặc cơ quan có mục tiêu chung
- công bằng — đối xử đúng và không thiên vị với mọi người
- độ thật — mức độ tin cậy hoặc chính xác của dữ liệu
Mẹo: di chuột, dùng phím Tab hoặc chạm vào các từ được tô sáng trong bài để xem định nghĩa nhanh ngay khi bạn đọc hoặc nghe.
Câu hỏi thảo luận
- Tại sao bạn nghĩ việc thiếu sự tham gia đa dạng có thể gây ra thiên vị trong hệ thống AI?
- Các tổ chức nên làm gì để giảm thiên vị trong thuật toán, theo bạn?
- Bạn có đồng ý rằng nên mở hộp đen mô hình trong các dịch vụ công không? Tại sao hoặc tại sao không?
