Penelitian baru dari University of Texas at Austin oleh Hüseyin Tanriverdi dan John-Patrick Akinyemi meneliti 363 algoritme yang sebelumnya diidentifikasi orang lain sebagai bias. Algoritme itu diambil dari repositori bernama AI Algorithmic and Automation Incidents and Controversies. Para peneliti membandingkan setiap algoritme bermasalah dengan algoritme serupa yang belum dituduh bias dan menelaah baik algoritme maupun organisasi yang membuat serta menerapkannya.
Mereka menyimpulkan bahwa satu sumber penting bias adalah kegagalan memodelkan kondisi dunia nyata yang kompleks. Studi ini mengidentifikasi tiga faktor saling terkait yang meningkatkan risiko hasil tidak adil:
- Kebenaran dasar yang tidak mapan — misalnya menebak usia dari tulang pada foto sinar-X atau memperlakukan opini publik sebagai fakta.
- Kompleksitas dunia nyata — model sering hanya menggunakan sebagian variabel karena data tidak tersedia, sehingga kehilangan aspek penting; contoh yang dikutip adalah penggantian kunjungan perawat oleh keputusan otomatis bagi tunjangan Medicaid, yang memutus akses bantuan bagi orang cacat untuk makan dan mandi.
- Keterlibatan pemangku kepentingan yang terbatas — sistem yang dirancang terutama oleh satu kelompok demografis dapat mengabaikan kebutuhan kelompok lain.
Tanriverdi menekankan bahwa “Ada satu set masalah yang kompleks yang harus ditangani algoritme, dan tidak mungkin menangani masalah tersebut dengan baik.” Ia juga menambahkan bahwa tanpa kebenaran dasar yang mapan, kemungkinan timbulnya bias meningkat secara signifikan. Studi ini menyimpulkan bahwa mengurangi bias memerlukan lebih dari sekadar meningkatkan akurasi: pengembang perlu membuka kotak hitam, mempertimbangkan kompleksitas dunia nyata, memperhitungkan input beragam, dan menetapkan kebenaran dasar yang jelas. Penelitian ini diterbitkan di MIS Quarterly (sumber: UT Austin).
Kata-kata sulit
- algoritme — aturan atau prosedur untuk proses komputer
- bias — kecenderungan tidak adil terhadap kelompok tertentu
- memodelkan — membuat representasi matematika atau digital
- kebenaran dasar — informasi atau ukuran yang dianggap benar
- kompleksitas dunia nyata — banyak faktor dan hubungan dalam situasi nyata
- pemangku kepentingan — orang atau kelompok yang terpengaruh oleh keputusan
- kotak hitam — sistem yang bekerja tanpa penjelasan jelas
- akurasi — seberapa tepat hasil dibandingkan dengan kenyataan
Tips: arahkan kursor, fokus, atau ketuk kata yang disorot di dalam teks untuk melihat definisi singkat sambil membaca atau mendengarkan.
Pertanyaan diskusi
- Bagaimana organisasi dapat menetapkan kebenaran dasar yang mapan untuk algoritme mereka? Berikan contoh langkah praktis.
- Apa dampak dari keterlibatan pemangku kepentingan yang terbatas terhadap kelompok yang berbeda di masyarakat?
- Langkah apa yang realistis dapat dilakukan pengembang untuk 'membuka kotak hitam' dan mengurangi bias?
Artikel terkait
Rambut sebagai catatan paparan bahan kimia
Penelitian dari University of Texas at Austin menunjukkan rambut dapat merekam paparan bahan kimia selama hari, minggu, dan bulan. Metode pemanasan helai rambut dan spektrometer massa membantu merekonstruksi garis waktu paparan yang darah atau urin tidak tangkap.
AI dan risiko bagi komunitas LGBTQ+
Kecerdasan buatan semakin hadir, tetapi data dan desain model dapat menghasilkan bias terhadap orang LGBTQ+. Advokat meminta perlindungan lebih kuat, kerja sama dengan pengembang, dan larangan pada sistem yang mendeteksi atau mengklasifikasi gender.
