Penelitian dari University of Texas at Austin, yang dipimpin oleh Hüseyin Tanriverdi bersama John-Patrick Akinyemi (kandidat PhD McCombs di IROM), menelaah ratusan algoritme yang sebelumnya diidentifikasi sebagai bias. Para peneliti mengambil contoh dari repositori insiden dan kontroversi algoritme AI dan membandingkan setiap algoritme bermasalah dengan algoritme serupa yang belum dituduh bias. Mereka juga menelaah organisasi yang membuat dan menggunakan algoritme itu.
Studi ini mengidentifikasi tiga faktor yang meningkatkan risiko hasil tidak adil. Pertama, kebenaran dasar yang tidak mapan — misalnya menebak usia dari foto sinar-X ketika dokter tidak punya cara mapan. Kedua, model sering menyederhanakan kenyataan dan menghilangkan variabel penting, seperti saat keputusan otomatis menggantikan kunjungan perawat sehingga beberapa orang kehilangan akses bantuan dasar. Ketiga, desain yang dibuat terutama oleh satu kelompok demografis dapat melewatkan kebutuhan kelompok lain.
Peneliti menyimpulkan bahwa mengurangi bias butuh lebih dari akurasi: pengembang harus membuka 'kotak hitam' model, mempertimbangkan kompleksitas dunia nyata, dan melibatkan input beragam. Studi ini diterbitkan di MIS Quarterly.
Kata-kata sulit
- algoritme — urutan langkah komputer untuk membuat keputusan
- bias — ketidakadilan atau kecenderungan yang tidak netral
- menelaah — memeriksa atau mengkaji dengan teliti
- repositori — tempat menyimpan data atau dokumen elektronik
- menyederhanakan — membuat sesuatu menjadi lebih sederhana
- variabel — faktor atau elemen yang dapat berubah
- demografis — ciri kelompok orang berdasarkan usia atau faktor lain
- akurasi — seberapa tepat atau benar hasil suatu model
Tips: arahkan kursor, fokus, atau ketuk kata yang disorot di dalam teks untuk melihat definisi singkat sambil membaca atau mendengarkan.
Pertanyaan diskusi
- Mengapa desain yang dibuat terutama oleh satu kelompok demografis bisa melewatkan kebutuhan kelompok lain? Berikan contoh singkat.
- Bagaimana menurut Anda pengembang bisa melibatkan input beragam dalam pembuatan model? Sebutkan satu atau dua cara.
- Apa dampak jika model otomatis menggantikan kunjungan perawat menurut teks? Jelaskan satu atau dua konsekuensi.
Artikel terkait
Kapal Penelitian Nansen Batal Survei di Perairan Sri Lanka
Kapal penelitian Norwegia Dr. Fridtjof Nansen membatalkan survei yang direncanakan di perairan Sri Lanka pada 2025 karena izin pemerintah terlambat. FAO menugaskan kapal itu ke Madagaskar dan para ilmuwan menyayangkan penundaan tersebut.
AI bantu layanan kesehatan di Sudan
Sistem kesehatan Sudan tertekan setelah hampir dua tahun perang. WHO memperingatkan kekurangan staf dan obat. Pejabat kesehatan mengatakan Sudan mulai memakai kecerdasan buatan untuk membantu perawatan di tempat layanan tradisional tidak lagi menjangkau.
Ilmuwan Afrika Selatan Pantau Kualitas Udara Waktu Nyata dengan Metode Fisika Partikel
Ilmuwan di Afrika Selatan mengadaptasi metode fisika partikel untuk sistem AI_r yang memantau kualitas udara waktu nyata menggunakan sensor murah, IoT, dan kecerdasan buatan. Proyek memasang 500 sensor di Sedibeng tahun depan dan mendapat dukungan internasional.