Tim peneliti dari Georgia Tech, dipimpin oleh mahasiswa PhD David Oygenblik, menemukan kerentanan baru yang mereka beri nama VillainNet. Kerentanan ini memengaruhi jaringan super kecerdasan buatan yang sering dipakai sistem mengemudi otonom untuk memilih subjaringan sesuai kondisi jalan.
Jaringan super bekerja dengan menukar subjaringan kecil untuk tugas seperti hujan, lalu lintas, atau pergantian jalur. Para peneliti menemukan pintu belakang tersembunyi yang tetap tidak aktif sampai subjaringan tertentu terpilih; ketika aktif, VillainNet bisa mengambil alih kendaraan dan memaksa mobil menabrak.
Dalam eksperimen, serangan yang diaktifkan hampir selalu berhasil, dengan tingkat keberhasilan 99%. Para peneliti juga melaporkan bahwa deteksi membutuhkan 66x lebih banyak daya komputasi dan waktu, sehingga pintu belakang sulit ditemukan.
Kata-kata sulit
- kerentanan — kondisi yang memungkinkan sistem diserang atau rusak
- jaringan super — model kecerdasan buatan yang memiliki banyak subjaringan
- subjaringan — bagian lebih kecil dari sebuah jaringan AI
- pintu belakang — kode tersembunyi untuk akses tidak sah
- mengambil alih — mengontrol sesuatu secara paksa atau total
- deteksi — proses menemukan masalah atau serangan
- daya komputasi — kapasitas pemrosesan data oleh komputer
Tips: arahkan kursor, fokus, atau ketuk kata yang disorot di dalam teks untuk melihat definisi singkat sambil membaca atau mendengarkan.
Pertanyaan diskusi
- Apakah kamu khawatir jika mobil otonom bisa diretas seperti ini? Jelaskan singkat alasanmu.
- Apa langkah sederhana yang menurutmu bisa dilakukan produsen mobil untuk mengurangi risiko pintu belakang pada jaringan super?
- Menurutmu mengapa peneliti perlu melaporkan kerentanan seperti VillainNet?
Artikel terkait
Studi: Agen Peramban AI Menimbulkan Risiko Keamanan
Penelitian University of Washington menemukan beberapa agen peramban AI dapat melewati aturan keamanan dan mengakses data dari situs lain. Peneliti menunjukkan dua jenis serangan teknis dan memberi tahu pembuat browser tentang temuan ini.
Studi: AI Tidak Membuat Menulis Lebih Mudah bagi Mahasiswa
Sebuah studi menemukan bahwa penggunaan AI generatif sering menambah tuntutan kognitif saat menulis. Peneliti mengikuti mahasiswa dalam kursus tentang AI dan menulis, lalu menyimpulkan AI perlu digunakan untuk mendukung, bukan menggantikan, peran manusia.
Peningkatan Permintaan Listrik dari Pusat Data Bisa Naikkan Harga dan Emisi
Studi memperingatkan bahwa pertumbuhan pusat data dan penambangan kriptokurensi dapat menaikkan biaya listrik dan emisi di Amerika Serikat pada 2030. Peneliti memodelkan permintaan dan memproyeksikan kenaikan harga serta emisi, serta menyoroti ketidakpastian biaya dan bahan bakar.