Studi dari University of Washington memperingatkan bahwa agen peramban berbasis AI dapat menimbulkan risiko keamanan siber serius. Tim meneliti tujuh agen peramban populer dan menemukan bahwa empat di antaranya menyediakan cara bagi penyerang untuk melewati kebijakan asal yang sama (same-origin policy). Kebijakan ini, diperkenalkan pada 1995, adalah mekanisme dasar yang mencegah situs berbeda saling mengakses data di peramban.
Peneliti menjalankan serangan proof-of-concept terhadap ChatGPT Atlas dan mendemonstrasikan dua risiko teknis utama:
- Penyisipan instruksi: halaman jahat menyembunyikan perintah yang menipu agen agar mengungkapkan atau memindahkan data, misalnya meminta ringkasan konten yang lalu dikirimkan kembali ke formulir jahat.
- Peracunan memori: agen sering menyimpan apa yang dipelajari untuk digunakan nanti, dan beberapa agen dapat mencampur informasi dari asal berbeda saat meninjau atau mengompresi memori.
Tim menemukan kondisi serupa pada Chrome with Gemini, Claude for Chrome, dan Perplexity Comet. Mereka juga mencatat bahwa agen yang diberi izin lebih sedikit lebih sulit disalahgunakan. Salah satu penulis bersama, David Kohlbrenner, menyimpulkan bahwa "agen peramban belum siap untuk publik." Peneliti telah membagikan temuan kepada pembuat peramban; beberapa pihak tidak menanggapi atau menolak menerima laporan. Studi ini dipresentasikan di Agents in the Wild Workshop di Rio de Janeiro dan sebagian didanai oleh sumbangan dari Microsoft.
Kata-kata sulit
- agen peramban — program berbasis AI yang berinteraksi dengan situs web
- kebijakan asal — aturan yang mencegah akses data antar situs
- penyisipan instruksi — menyembunyikan perintah menipu di halaman web
- peracunan memori — campur atau ubah data yang disimpan agen
- mendemonstrasikan — menunjukkan contoh atau bukti bagaimana sesuatu terjadi
- menyimpan — menaruh atau mempertahankan sesuatu untuk nanti
- mencampur — menggabungkan dua atau lebih informasi bersama
Tips: arahkan kursor, fokus, atau ketuk kata yang disorot di dalam teks untuk melihat definisi singkat sambil membaca atau mendengarkan.
Pertanyaan diskusi
- Bagaimana peracunan memori oleh agen peramban dapat memengaruhi privasi pengguna? Berikan contoh singkat.
- Menurut artikel, mengapa agen yang diberi izin lebih sedikit lebih sulit disalahgunakan? Jelaskan dengan satu atau dua kalimat.
- Apa langkah yang seharusnya diambil pembuat peramban setelah menerima temuan seperti ini? Berikan alasan singkat.
Artikel terkait
AI Lokal untuk Mengurangi Kekerasan dan Ketidaksetaraan Gender
Kelompok di Amerika Latin membuat alat kecerdasan buatan lokal untuk mempelajari dan mengurangi kekerasan dan ketidaksetaraan gender. Proyek ini melindungi data sensitif dan memberi bukti kepada pemerintah serta masyarakat sipil.
Peneliti Temukan Kerentanan di Pengelola Kata Sandi Cloud
Peneliti ETH Zurich menguji tiga pengelola kata sandi berbasis cloud dan menemukan beberapa serangan yang dapat mengakses atau mengubah kata sandi pengguna. Mereka memberi penyedia waktu untuk memperbaiki dan memberi rekomendasi keamanan.
AI bantu layanan kesehatan di Sudan
Sistem kesehatan Sudan tertekan setelah hampir dua tahun perang. WHO memperingatkan kekurangan staf dan obat. Pejabat kesehatan mengatakan Sudan mulai memakai kecerdasan buatan untuk membantu perawatan di tempat layanan tradisional tidak lagi menjangkau.