AI dan risiko bagi komunitas LGBTQ+ ^{CEFR B2}

Kecerdasan buatan semakin masuk ke kehidupan sehari-hari dan sektor bisnis. Survei Ipsos menunjukkan mayoritas melihat manfaat teknologi ini, sementara investasi swasta dalam AI tumbuh tajam. Namun laporan dan penelitian menyoroti risiko sistem yang dilatih pada data daring, karena data tersebut sering membawa stereotip yang kemudian direproduksi oleh model.

Untuk komunitas LGBTQ+, konsekuensi itu nyata. Wired mencatat bahwa beberapa alat pembuat gambar, misalnya Midjourney, dapat menghasilkan representasi yang reduktif dan berbahaya. UNESCO meneliti asumsi yang membentuk beberapa model dan menemukan bahwa tool populer seperti Llama 2 dan GPT-2 dalam simulasi memproduksi konten negatif tentang orang gay lebih dari separuh waktu. Temuan ini menekankan peran data pelatihan dan pilihan desain dalam memproduksi kerugian berulang.

Risiko tidak terbatas pada teks atau gambar. Forbidden Colours, organisasi non-profit Belgia, menjelaskan cara kerja sistem "pengenalan jenis kelamin otomatis" (AGR) yang menganalisis materi audio-visual dan menggunakan ciri wajah atau pola vokal untuk menyimpulkan gender. Mereka berpendapat mustahil mengetahui bagaimana seseorang memahami identitas gendernya dari ukuran-ukuran itu, sehingga sistem semacam itu salah arah dan berpotensi berbahaya. Politico Europe melaporkan bahwa Perdana Menteri Hongaria, Viktor Orbán, mensahkan pemantauan biometrik berbasis AI pada acara Pride lokal dengan alasan akan melindungi anak-anak dari "agenda LGBTQ+." Lembaga-lembaga Uni Eropa sedang meninjau kebijakan tersebut.

Para advokat meminta langkah konkret untuk mengurangi kerugian: kemitraan antara pengembang dan pemangku kepentingan LGBTQ+, perlindungan yang lebih kuat terhadap penyalahgunaan pengawasan, larangan pada sistem yang mendeteksi atau mengklasifikasi gender, serta keterlibatan orang-orang LGBTQ+ pada semua tahap pengembangan alat. Tujuan langkah-langkah ini adalah mengurangi kerugian dan meningkatkan kemungkinan AI menjadi lebih berguna dan adil bagi lebih banyak orang.