Penelitian dari University of Texas at Austin, yang dipimpin oleh Hüseyin Tanriverdi bersama John-Patrick Akinyemi (kandidat PhD McCombs di IROM), menelaah ratusan algoritme yang sebelumnya diidentifikasi sebagai bias. Para peneliti mengambil contoh dari repositori insiden dan kontroversi algoritme AI dan membandingkan setiap algoritme bermasalah dengan algoritme serupa yang belum dituduh bias. Mereka juga menelaah organisasi yang membuat dan menggunakan algoritme itu.
Studi ini mengidentifikasi tiga faktor yang meningkatkan risiko hasil tidak adil. Pertama, kebenaran dasar yang tidak mapan — misalnya menebak usia dari foto sinar-X ketika dokter tidak punya cara mapan. Kedua, model sering menyederhanakan kenyataan dan menghilangkan variabel penting, seperti saat keputusan otomatis menggantikan kunjungan perawat sehingga beberapa orang kehilangan akses bantuan dasar. Ketiga, desain yang dibuat terutama oleh satu kelompok demografis dapat melewatkan kebutuhan kelompok lain.
Peneliti menyimpulkan bahwa mengurangi bias butuh lebih dari akurasi: pengembang harus membuka 'kotak hitam' model, mempertimbangkan kompleksitas dunia nyata, dan melibatkan input beragam. Studi ini diterbitkan di MIS Quarterly.
Kata-kata sulit
- algoritme — urutan langkah komputer untuk membuat keputusan
- bias — ketidakadilan atau kecenderungan yang tidak netral
- menelaah — memeriksa atau mengkaji dengan teliti
- repositori — tempat menyimpan data atau dokumen elektronik
- menyederhanakan — membuat sesuatu menjadi lebih sederhana
- variabel — faktor atau elemen yang dapat berubah
- demografis — ciri kelompok orang berdasarkan usia atau faktor lain
- akurasi — seberapa tepat atau benar hasil suatu model
Tips: arahkan kursor, fokus, atau ketuk kata yang disorot di dalam teks untuk melihat definisi singkat sambil membaca atau mendengarkan.
Pertanyaan diskusi
- Mengapa desain yang dibuat terutama oleh satu kelompok demografis bisa melewatkan kebutuhan kelompok lain? Berikan contoh singkat.
- Bagaimana menurut Anda pengembang bisa melibatkan input beragam dalam pembuatan model? Sebutkan satu atau dua cara.
- Apa dampak jika model otomatis menggantikan kunjungan perawat menurut teks? Jelaskan satu atau dua konsekuensi.
Artikel terkait
Pemimpin Sains Afrika Mendesak Investasi untuk Inovasi Medis
Para pemimpin sains Afrika menyerukan pembangunan dan pembiayaan inovasi medis di benua itu untuk meningkatkan kesehatan dan mengurangi ketergantungan pada dana internasional yang tidak pasti. Mereka juga merekomendasikan reformasi kebijakan dan investasi nasional untuk riset dan pengembangan.
Sensor Rumah dan AI Pantau Perubahan Kesehatan pada Pasien ALS
Tim di University of Missouri menguji sistem yang menggabungkan sensor rumah dan kecerdasan buatan untuk melacak perubahan fungsi sehari-hari pada pasien ALS. Tujuannya mendeteksi masalah lebih awal dan membantu tindakan klinis cepat.