Nghiên cứu: Thiên vị AI do không mô hình hóa đủ thực tế ^{CEFR B1}

Nhiều công cụ AI lan rộng nhanh và gây quan ngại về thiên vị. Các báo cáo chỉ ra rằng hệ thống thiên vị đã dẫn tới việc điều trị y tế khác nhau theo đặc điểm nhân khẩu và tới công cụ tuyển dụng phân biệt với phụ nữ và người da đen.

Nghiên cứu của University of Texas at Austin, do Hüseyin Tanriverdi cùng John-Patrick Akinyemi thực hiện, phân tích một tập gồm 363 thuật toán mà người khác đã xác định là có thiên vị. Các thuật toán này lấy từ kho dữ liệu AI Algorithmic and Automation Incidents and Controversies. Các nhà nghiên cứu so sánh mỗi thuật toán gây vấn đề với một thuật toán tương tự chưa bị gọi là thiên vị và kiểm tra cả tổ chức tạo ra chúng.

Họ xác định ba yếu tố tăng rủi ro: không có độ thật đã thiết lập, mô hình bỏ sót các biến quan trọng của thế giới thực (ví dụ thay người đến thăm nhà bằng quyết định tự động về quyền lợi Medicaid), và thiếu sự tham gia đa dạng của các bên liên quan. Nghiên cứu kết luận cần mở hộp đen mô hình và dùng dữ liệu đa dạng để cải thiện công bằng.