Peneliti keamanan siber dari Georgia Tech menemukan sebuah pintu belakang baru pada jaringan super AI yang mereka namai VillainNet. Menurut tim, jaringan super itu berfungsi layaknya "pisau Swiss Army" untuk AI: ia menukar subjaringan kecil sesuai tugas, misalnya menghadapi hujan atau perubahan kondisi lalu lintas. David Oygenblik, mahasiswa PhD dan peneliti utama, menjelaskan bahwa penyerang dapat menyembunyikan kode berbahaya dalam salah satu subjaringan tersebut.
Pintu belakang ini tidak aktif sampai subjaringan yang sangat spesifik dipilih; ketika kondisi itu muncul—misalnya taksi swakemudi yang menanggapi hujan—VillainNet aktif dan bisa mengambil kendali kendaraan. Setelah aktif, penyerang dapat mengancam penumpang dan memaksa mobil untuk menabrak. Para peneliti menyatakan serangan yang sudah aktif memiliki tingkat keberhasilan 99% dan tetap tidak terlihat dalam sistem AI penuh.
Mereka juga melaporkan bahwa menemukan pintu belakang seperti ini memerlukan 66x lebih banyak daya komputasi dan waktu dibandingkan metode saat ini, dan bahwa serangan dapat bersembunyi di antara sebanyak 10 quintillion konfigurasi kemungkinan. Oygenblik menyebut pekerjaan itu "seruan untuk tindakan bagi komunitas keamanan" dan tim menyarankan penambahan langkah keamanan pada jaringan super sebagai solusi hipotetis. Proyek ini dipresentasikan pada ACM Conference on Computer and Communications Security (CCS) pada Oktober 2025. Sumber: Georgia Tech.
- Tingkat keberhasilan serangan saat aktif: 99%
- Deteksi memerlukan 66x lebih banyak daya komputasi
- Bersembunyi di antara 10 quintillion konfigurasi
Kata-kata sulit
- pintu belakang — akses rahasia yang menyusupkan kontrol
- jaringan super — model AI besar dengan banyak bagian terhubungjaringan super AI
- subjaringan — bagian kecil dari jaringan yang lebih besar
- menyembunyikan — menaruh sesuatu agar tidak terlihat orang lain
- tingkat keberhasilan — persentase keberhasilan suatu aksi atau serangan
- deteksi — proses menemukan atau melihat adanya masalah
- konfigurasi — susunan atau pengaturan bagian dalam sistem
Tips: arahkan kursor, fokus, atau ketuk kata yang disorot di dalam teks untuk melihat definisi singkat sambil membaca atau mendengarkan.
Pertanyaan diskusi
- Apa risiko nyata jika jaringan super dengan pintu belakang digunakan pada kendaraan swakemudi di kota Anda? Jelaskan dengan contoh.
- Langkah keamanan apa yang menurut Anda paling penting untuk ditambahkan pada jaringan super agar mencegah pintu belakang seperti ini? Berikan alasan singkat.
Artikel terkait
Otak Prediksi Frasa, Bukan Hanya Kata Berikutnya
Penelitian menunjukkan otak manusia memprediksi kata dengan mengelompokkan kata secara gramatikal menjadi frasa, berbeda dari model bahasa besar (LLM) yang dilatih untuk menebak kata berikutnya. Temuan ini didukung oleh eksperimen dan rekaman aktivitas otak.
Layar Sentuh Besar Mengganggu Perhatian Saat Mengemudi
Penelitian dengan simulator menunjukkan layar sentuh besar membuat mengemudi dan penggunaan kontrol menjadi lebih buruk saat orang melakukan multitugas. Para peneliti mengukur pandangan, gerakan jari, dan tanda stres lalu menyarankan sensor untuk memantau perhatian pengemudi.
