AI Baru Mempercepat Kekerasan Daring terhadap Perempuan di NigeriaCEFR B1
10 Apr 2026
Diadaptasi dari Guest Contributor, Global Voices • CC BY 3.0
Foto oleh Ahmed Nasiru, Unsplash
Kekerasan berbasis gender secara daring di Nigeria meningkat pesat sejak alat AI generatif baru muncul di media sosial. Seorang perancang pengalaman pengguna Nigeria yang pernah bekerja di Superbloom menjelaskan bahwa platform dan alat AI mengubah lingkungan daring bagi perempuan, terutama perempuan kulit hitam Nigeria.
Investigasi mendokumentasikan bahwa asisten AI Grok, yang dibuat oleh xAI dan terintegrasi ke dalam X, disalahgunakan untuk membuat gambar seksual tanpa persetujuan, termasuk gambar yang menampilkan anak di bawah umur. Meski ada pembaruan kebijakan, peneliti menemukan celah moderasi yang memungkinkan citra ini tetap dibuat.
Laporan Gatefield memperingatkan masalah ini bisa membesar seiring penyebaran AI generatif. Gabungan penegakan platform yang lemah, sistem monetisasi, dan regulasi yang tidak jelas menciptakan kondisi di mana AI mempercepat bahaya berbasis gender. Kelompok desain dan kebijakan merekomendasikan langkah seperti komitmen tata kelola, pelatihan staf, mekanisme pengaduan, dan tindakan privasi untuk mengurangi risiko.
Kata-kata sulit
- kekerasan berbasis gender — tindakan menyakiti orang berdasarkan identitas atau peran
- daring — dalam jaringan internet atau dunia maya
- AI generatif — sistem kecerdasan buatan yang dapat membuat konten baru
- pengalaman pengguna — cara orang merasakan dan memakai sebuah produk
- moderasi — proses memeriksa dan menghapus konten bermasalah
- celah — kekurangan dalam sistem yang memungkinkan masalah
- monetisasi — cara mendapatkan uang dari layanan atau konten
- penegakan — tindakan memastikan aturan atau kebijakan dijalankan
- tata kelola — aturan dan proses untuk mengatur sebuah organisasi
- mekanisme pengaduan — cara resmi melaporkan masalah atau pelanggaran
Tips: arahkan kursor, fokus, atau ketuk kata yang disorot di dalam teks untuk melihat definisi singkat sambil membaca atau mendengarkan.
Pertanyaan diskusi
- Bagaimana menurut Anda AI generatif dapat mempengaruhi keselamatan perempuan di platform media sosial?
- Di antara rekomendasi seperti tata kelola, pelatihan staf, mekanisme pengaduan, dan tindakan privasi, mana yang menurut Anda paling penting dan mengapa?
- Apakah regulasi yang lebih jelas menurut Anda akan membantu mengurangi bahaya ini? Jelaskan alasan singkat.
