AI phải dựa trên quyền con người ^{CEFR B2}

AI ngày càng tác động sâu rộng tới phẩm giá, tự do và phúc lợi của con người, vì vậy nhiều ý kiến cho rằng công nghệ số nên được xây dựng, sử dụng và quản trị dựa trên các quyền con người. Lịch sử tư tưởng nhân quyền được dẫn chiếu để làm nền tảng cho lập luận này: Trụ Cilơ năm 539 trước Công nguyên ghi lại việc giải phóng nô lệ, Magna Carta giới hạn quyền lực hoàng gia, các tư tưởng của John Locke thế kỷ 1700 ảnh hưởng tới Tuyên ngôn Hoa Kỳ 1776 và Tuyên ngôn Nhân quyền và Công dân của Pháp 1789, rồi Tuyên ngôn Nhân quyền phổ quát 1948 và hai công ước quốc tế tiếp theo.

Sau đó, năm quyền cơ bản được đề xuất làm nền tảng cho một AI lấy con người làm trung tâm:

• Quyền được sống và tự do: AI phải bảo vệ tính mạng, giữ con người làm chủ và tránh sử dụng vào quân sự hóa hay hành vi dẫn tới diệt chủng.
• Quyền bình đẳng: hệ thống cần công bằng; nhà phát triển và quản lý phải xử lý dữ liệu huấn luyện thiên lệch, thực hiện kiểm toán thiên vị, tạo vòng phản hồi, ghi chép và minh bạch để đảm bảo giải thích và trách nhiệm.
• Quyền tự do ngôn luận: người dùng phải biết lý do thông tin được thúc đẩy hoặc che giấu; AI không nên làm lấn át ngôn ngữ thiểu số hay tạo điều kiện cho bot và thao túng trực tuyến.
• Quyền tiếp cận nhu cầu thiết yếu: AI có thể hỗ trợ phân phối lương thực, quản lý lưới điện và chăm sóc y tế từ xa; thiết kế và quản trị phải hướng tới tiếp cận công bằng và tránh khoảng cách số.
• Quyền riêng tư: giảm thiểu dữ liệu là cần thiết; các kỹ thuật như bảo mật vi phân (differential privacy) và học liên hợp (federated learning) giúp giới hạn phơi bày dữ liệu; mọi người cần có sự đồng ý, chủ quyền dữ liệu và quyền được bị lãng quên.

Nếu hệ thống AI vi phạm những quyền này, phải có khả năng khởi kiện và bồi thường hợp pháp. Mục tiêu là hướng công nghệ phục vụ các giá trị con người rộng rãi thay vì làm sâu thêm các bất cân xứng quyền lực hiện có.