Penelitian dari University of Texas at Austin, yang dipimpin oleh Hüseyin Tanriverdi bersama John-Patrick Akinyemi (kandidat PhD McCombs di IROM), menelaah ratusan algoritme yang sebelumnya diidentifikasi sebagai bias. Para peneliti mengambil contoh dari repositori insiden dan kontroversi algoritme AI dan membandingkan setiap algoritme bermasalah dengan algoritme serupa yang belum dituduh bias. Mereka juga menelaah organisasi yang membuat dan menggunakan algoritme itu.
Studi ini mengidentifikasi tiga faktor yang meningkatkan risiko hasil tidak adil. Pertama, kebenaran dasar yang tidak mapan — misalnya menebak usia dari foto sinar-X ketika dokter tidak punya cara mapan. Kedua, model sering menyederhanakan kenyataan dan menghilangkan variabel penting, seperti saat keputusan otomatis menggantikan kunjungan perawat sehingga beberapa orang kehilangan akses bantuan dasar. Ketiga, desain yang dibuat terutama oleh satu kelompok demografis dapat melewatkan kebutuhan kelompok lain.
Peneliti menyimpulkan bahwa mengurangi bias butuh lebih dari akurasi: pengembang harus membuka 'kotak hitam' model, mempertimbangkan kompleksitas dunia nyata, dan melibatkan input beragam. Studi ini diterbitkan di MIS Quarterly.
Kata-kata sulit
- algoritme — urutan langkah komputer untuk membuat keputusan
- bias — ketidakadilan atau kecenderungan yang tidak netral
- menelaah — memeriksa atau mengkaji dengan teliti
- repositori — tempat menyimpan data atau dokumen elektronik
- menyederhanakan — membuat sesuatu menjadi lebih sederhana
- variabel — faktor atau elemen yang dapat berubah
- demografis — ciri kelompok orang berdasarkan usia atau faktor lain
- akurasi — seberapa tepat atau benar hasil suatu model
Tips: arahkan kursor, fokus, atau ketuk kata yang disorot di dalam teks untuk melihat definisi singkat sambil membaca atau mendengarkan.
Pertanyaan diskusi
- Mengapa desain yang dibuat terutama oleh satu kelompok demografis bisa melewatkan kebutuhan kelompok lain? Berikan contoh singkat.
- Bagaimana menurut Anda pengembang bisa melibatkan input beragam dalam pembuatan model? Sebutkan satu atau dua cara.
- Apa dampak jika model otomatis menggantikan kunjungan perawat menurut teks? Jelaskan satu atau dua konsekuensi.
Artikel terkait
Peta Biologis Menghubungkan Sel dan Jaringan Otak
Sebuah studi di Nature Communications menggabungkan pemindaian otak, data genetik, dan pencitraan molekuler untuk menunjukkan bagaimana organisasi seluler dan molekuler membentuk jaringan otak besar. Temuan berpotensi mengubah studi kognisi dan gangguan mental.
Platform Baru Pantau Demam Berdarah Secara Bulanan
Global Dengue Observatory adalah platform dari LSHTM yang memantau tren demam berdarah bulanan menggunakan data WHO dan proyek OpenDengue. Alat ini membantu menyoroti kenaikan, keterlambatan pelaporan, dan pola regional seperti di Amerika Latin.
Model Fisika Baru untuk Meningkatkan Ketajaman MRI
Peneliti di Rice University dan Oak Ridge National Laboratory mengembangkan model fisika baru yang menghubungkan gerak molekul dengan sinyal MRI klinis. Studi ini menjelaskan relaksasi NMR dalam cairan dan diuji pada frekuensi MRI klinis.
Aplikasi 'Are You Dead Yet?' dan kesepian kaum muda di China
Aplikasi ponsel bernama “Are You Dead Yet?” tiba-tiba populer di Apple App Store China pada Januari 2026. Aplikasi ini meminta kontak darurat dan check-in rutin, dan menonjolkan kecemasan sosial di kalangan anak muda yang tinggal sendiri.