Peneliti memperingatkan bahwa "vibe coding", yakni praktik memakai alat AI generatif untuk menulis kode, telah menyebabkan banyak kode rentan muncul di berbagai proyek. Untuk menyelidiki, tim memindai lebih dari 43.000 advis keamanan publik dan menemukan banyak kasus di mana alat AI membantu membuat kode yang tidak aman. Nama-nama alat tersebut muncul dalam temuan sebagai contoh dari model dan asisten kode otomatis.
Vibe Security Radar dibuat oleh Systems Software & Security Lab (SSLab) di Georgia Tech. Radar mencari commit yang memperkenalkan bug, menelusuri riwayat kode, dan menandai kasus bila ada tanda metadata dari alat AI, seperti tag rekan penulis atau email bot. Radar telah mengonfirmasi puluhan kasus, termasuk beberapa yang berlabel kritis dan bernilai tinggi.
Para peneliti menjelaskan bahwa model AI cenderung mengulangi kesalahan yang sama, sehingga bug yang sama muncul di banyak proyek. Mereka menyarankan agar keluaran AI ditinjau seperti pull request pengembang junior, terutama terkait penanganan input dan otentikasi. Juga disarankan memberi prompt lebih rinci dan memakai alat pemeriksa kode untuk menghindari masalah serius.
Kata-kata sulit
- menyelidiki — mencari informasi atau bukti lebih jauh tentang sesuatu
- memindai — melihat atau memeriksa banyak data dengan cepat
- menelusuri — mengikuti atau mencari asal dan sejarah sesuatu
- menandai — memberi tanda atau catatan untuk menunjukkan sesuatu penting
- metadata — informasi singkat yang menjelaskan data lain
- otentikasi — proses memastikan identitas pengguna atau sistem
- pemeriksa kode — alat yang memeriksa kesalahan dan masalah pada kode
Tips: arahkan kursor, fokus, atau ketuk kata yang disorot di dalam teks untuk melihat definisi singkat sambil membaca atau mendengarkan.
Pertanyaan diskusi
- Apakah menurut Anda tim pengembang harus selalu meninjau kode yang dibuat oleh alat AI? Mengapa?
- Bagaimana Anda bisa memberi prompt lebih rinci saat memakai alat AI untuk menulis kode? Beri satu contoh singkat.
- Apa risiko jika bug yang sama muncul di banyak proyek? Jelaskan satu atau dua dampak.
Artikel terkait
Sensor Rumah dan AI Pantau Perubahan Kesehatan pada Pasien ALS
Tim di University of Missouri menguji sistem yang menggabungkan sensor rumah dan kecerdasan buatan untuk melacak perubahan fungsi sehari-hari pada pasien ALS. Tujuannya mendeteksi masalah lebih awal dan membantu tindakan klinis cepat.
AI Membimbing Mahasiswa Bedah Saat Latihan Menjahit Luka
Para peneliti di Johns Hopkins mengembangkan AI yang menilai dan memberi umpan balik personal pada mahasiswa kedokteran saat berlatih menjahit luka. Studi acak dengan 12 mahasiswa menunjukkan manfaat terbesar bagi yang sudah punya dasar bedah.
