Penelitian dari University of Texas at Austin, yang dipimpin oleh Hüseyin Tanriverdi bersama John-Patrick Akinyemi (kandidat PhD McCombs di IROM), menelaah ratusan algoritme yang sebelumnya diidentifikasi sebagai bias. Para peneliti mengambil contoh dari repositori insiden dan kontroversi algoritme AI dan membandingkan setiap algoritme bermasalah dengan algoritme serupa yang belum dituduh bias. Mereka juga menelaah organisasi yang membuat dan menggunakan algoritme itu.
Studi ini mengidentifikasi tiga faktor yang meningkatkan risiko hasil tidak adil. Pertama, kebenaran dasar yang tidak mapan — misalnya menebak usia dari foto sinar-X ketika dokter tidak punya cara mapan. Kedua, model sering menyederhanakan kenyataan dan menghilangkan variabel penting, seperti saat keputusan otomatis menggantikan kunjungan perawat sehingga beberapa orang kehilangan akses bantuan dasar. Ketiga, desain yang dibuat terutama oleh satu kelompok demografis dapat melewatkan kebutuhan kelompok lain.
Peneliti menyimpulkan bahwa mengurangi bias butuh lebih dari akurasi: pengembang harus membuka 'kotak hitam' model, mempertimbangkan kompleksitas dunia nyata, dan melibatkan input beragam. Studi ini diterbitkan di MIS Quarterly.
Kata-kata sulit
- algoritme — urutan langkah komputer untuk membuat keputusan
- bias — ketidakadilan atau kecenderungan yang tidak netral
- menelaah — memeriksa atau mengkaji dengan teliti
- repositori — tempat menyimpan data atau dokumen elektronik
- menyederhanakan — membuat sesuatu menjadi lebih sederhana
- variabel — faktor atau elemen yang dapat berubah
- demografis — ciri kelompok orang berdasarkan usia atau faktor lain
- akurasi — seberapa tepat atau benar hasil suatu model
Tips: arahkan kursor, fokus, atau ketuk kata yang disorot di dalam teks untuk melihat definisi singkat sambil membaca atau mendengarkan.
Pertanyaan diskusi
- Mengapa desain yang dibuat terutama oleh satu kelompok demografis bisa melewatkan kebutuhan kelompok lain? Berikan contoh singkat.
- Bagaimana menurut Anda pengembang bisa melibatkan input beragam dalam pembuatan model? Sebutkan satu atau dua cara.
- Apa dampak jika model otomatis menggantikan kunjungan perawat menurut teks? Jelaskan satu atau dua konsekuensi.
Artikel terkait
Aliansi Big Tech dan Pertanian Membuat Alat Mahal bagi Petani Kecil
Laporan IPES-Food memperingatkan kerja sama antara perusahaan pertanian besar dan perusahaan teknologi besar membuat alat digital dan layanan modern sulit dijangkau oleh petani kecil. Laporan juga menyoroti risiko penguasaan data dan kebutuhan tata kelola.
Pendapatan Kreator Digital Afrika Masih Rendah Meski Sektor Tumbuh
Laporan Africa Creator Economy Report 2.0, dipublikasikan di Lagos pada Januari 2026, menunjukkan sektor kreatif digital bernilai miliaran dolar. Namun banyak kreator di Afrika mendapat penghasilan kecil dan menghadapi masalah pembayaran dan AI.
Aplikasi dan pesan teks bantu kesehatan mental mahasiswa
Penelitian besar menemukan aplikasi ponsel ditambah pendampingan lewat pesan teks mengurangi depresi, kecemasan, dan gangguan makan pada mahasiswa. Lebih dari 6.200 mahasiswa ikut serta dan hasil dipublikasikan di Nature Human Behavior.