Peneliti keamanan siber dari Georgia Tech menemukan sebuah pintu belakang baru pada jaringan super AI yang mereka namai VillainNet. Menurut tim, jaringan super itu berfungsi layaknya "pisau Swiss Army" untuk AI: ia menukar subjaringan kecil sesuai tugas, misalnya menghadapi hujan atau perubahan kondisi lalu lintas. David Oygenblik, mahasiswa PhD dan peneliti utama, menjelaskan bahwa penyerang dapat menyembunyikan kode berbahaya dalam salah satu subjaringan tersebut.
Pintu belakang ini tidak aktif sampai subjaringan yang sangat spesifik dipilih; ketika kondisi itu muncul—misalnya taksi swakemudi yang menanggapi hujan—VillainNet aktif dan bisa mengambil kendali kendaraan. Setelah aktif, penyerang dapat mengancam penumpang dan memaksa mobil untuk menabrak. Para peneliti menyatakan serangan yang sudah aktif memiliki tingkat keberhasilan 99% dan tetap tidak terlihat dalam sistem AI penuh.
Mereka juga melaporkan bahwa menemukan pintu belakang seperti ini memerlukan 66x lebih banyak daya komputasi dan waktu dibandingkan metode saat ini, dan bahwa serangan dapat bersembunyi di antara sebanyak 10 quintillion konfigurasi kemungkinan. Oygenblik menyebut pekerjaan itu "seruan untuk tindakan bagi komunitas keamanan" dan tim menyarankan penambahan langkah keamanan pada jaringan super sebagai solusi hipotetis. Proyek ini dipresentasikan pada ACM Conference on Computer and Communications Security (CCS) pada Oktober 2025. Sumber: Georgia Tech.
- Tingkat keberhasilan serangan saat aktif: 99%
- Deteksi memerlukan 66x lebih banyak daya komputasi
- Bersembunyi di antara 10 quintillion konfigurasi
Kata-kata sulit
- pintu belakang — akses rahasia yang menyusupkan kontrol
- jaringan super — model AI besar dengan banyak bagian terhubungjaringan super AI
- subjaringan — bagian kecil dari jaringan yang lebih besar
- menyembunyikan — menaruh sesuatu agar tidak terlihat orang lain
- tingkat keberhasilan — persentase keberhasilan suatu aksi atau serangan
- deteksi — proses menemukan atau melihat adanya masalah
- konfigurasi — susunan atau pengaturan bagian dalam sistem
Tips: arahkan kursor, fokus, atau ketuk kata yang disorot di dalam teks untuk melihat definisi singkat sambil membaca atau mendengarkan.
Pertanyaan diskusi
- Apa risiko nyata jika jaringan super dengan pintu belakang digunakan pada kendaraan swakemudi di kota Anda? Jelaskan dengan contoh.
- Langkah keamanan apa yang menurut Anda paling penting untuk ditambahkan pada jaringan super agar mencegah pintu belakang seperti ini? Berikan alasan singkat.
Artikel terkait
AI Membimbing Mahasiswa Bedah Saat Latihan Menjahit Luka
Para peneliti di Johns Hopkins mengembangkan AI yang menilai dan memberi umpan balik personal pada mahasiswa kedokteran saat berlatih menjahit luka. Studi acak dengan 12 mahasiswa menunjukkan manfaat terbesar bagi yang sudah punya dasar bedah.
Akses Tor ke Situs Pemerintah Meksiko Terbuka Sebagian
Beberapa situs pemerintahan Meksiko kini bisa diakses lewat jaringan Tor setelah pemantauan menemukan pencabutan blok pada www.gob.mx. Namun beberapa layanan, termasuk datos.gob.mx dan kotak pelapor lewat Tor, masih terblokir atau dipindah.
Filter nanofiber yang menangkap CO2 di dalam gedung
Para peneliti mengembangkan filter udara berbahan nanofiber karbon yang menangkap karbon dioksida di dalam bangunan. Filter ini kompatibel dengan sistem HVAC, bisa dipakai ulang, dan berpotensi menurunkan penggunaan energi dan emisi.
AI memperkuat prakiraan monsun dan membantu petani India
Alat AI seperti NeuralGCM meningkatkan prakiraan monsun di India. Pada musim panas ini, 38 million farmers menerima prakiraan empat minggu sebelum monsun, dan proyek ini akan diperluas ke banyak negara untuk membantu petani merencanakan tanam.