Các nhà nghiên cứu tại Georgia Tech phát hiện lỗ hổng mang tên VillainNet, ảnh hưởng tới các "mạng siêu" AI mà nhiều hệ thống lái tự động dùng để hoán đổi các tiểu mạng cho từng nhiệm vụ giao thông. Theo nhóm, mạng siêu cho phép hệ thống chọn công cụ phần mềm phù hợp khi gặp mưa, đường đông hoặc đổi làn.
Nhóm mô tả rằng kẻ tấn công có thể giấu một cửa hậu bên trong một tiểu mạng. Cửa hậu này ở trạng thái im lặng cho đến khi tiểu mạng cụ thể được chọn; khi đó nó kích hoạt và có thể chiếm quyền điều khiển phương tiện. Nhóm nêu ví dụ một taxi tự lái phản ứng với mưa, rồi bị lợi dụng để tấn công hành khách hoặc ép xe lao vào chướng ngại.
Trong thí nghiệm, cuộc tấn công gần như chắc chắn thành công sau khi được kích hoạt. Các nhà nghiên cứu còn nói rằng phát hiện cửa hậu như vậy đòi hỏi năng lực tính toán và thời gian lớn hơn nhiều so với phương pháp hiện tại, và mối đe dọa có thể xuất hiện ở nhiều giai đoạn phát triển.
Từ khó
- lỗ hổng — vấn đề bảo mật trong phần mềm hoặc hệ thống
- mạng siêu — một mô hình điều phối các mô hình nhỏ
- tiểu mạng — một mô hình AI nhỏ cho nhiệm vụ cụ thể
- cửa hậu — mã hoặc tính năng bí mật cho truy cập
- kích hoạt — làm cho một chức năng bắt đầu hoạt động
- hoán đổi — thay thế thứ này bằng thứ khác tạm thời
- đòi hỏi — cần có hoặc yêu cầu về điều kiện
- giai đoạn — một bước hoặc khoảng thời gian trong tiến trình
Mẹo: di chuột, dùng phím Tab hoặc chạm vào các từ được tô sáng trong bài để xem định nghĩa nhanh ngay khi bạn đọc hoặc nghe.
Câu hỏi thảo luận
- Bạn lo ngại thế nào nếu một xe tự lái bạn đi qua có thể bị chiếm quyền điều khiển?
- Nếu là hành khách trong taxi tự lái gặp hành vi bất thường, bạn sẽ phản ứng ra sao?
- Theo bạn, những biện pháp đơn giản nào có thể giúp giảm rủi ro cửa hậu trong phần mềm xe tự lái?
