Penelitian dari University of Texas at Austin, yang dipimpin oleh Hüseyin Tanriverdi bersama John-Patrick Akinyemi (kandidat PhD McCombs di IROM), menelaah ratusan algoritme yang sebelumnya diidentifikasi sebagai bias. Para peneliti mengambil contoh dari repositori insiden dan kontroversi algoritme AI dan membandingkan setiap algoritme bermasalah dengan algoritme serupa yang belum dituduh bias. Mereka juga menelaah organisasi yang membuat dan menggunakan algoritme itu.
Studi ini mengidentifikasi tiga faktor yang meningkatkan risiko hasil tidak adil. Pertama, kebenaran dasar yang tidak mapan — misalnya menebak usia dari foto sinar-X ketika dokter tidak punya cara mapan. Kedua, model sering menyederhanakan kenyataan dan menghilangkan variabel penting, seperti saat keputusan otomatis menggantikan kunjungan perawat sehingga beberapa orang kehilangan akses bantuan dasar. Ketiga, desain yang dibuat terutama oleh satu kelompok demografis dapat melewatkan kebutuhan kelompok lain.
Peneliti menyimpulkan bahwa mengurangi bias butuh lebih dari akurasi: pengembang harus membuka 'kotak hitam' model, mempertimbangkan kompleksitas dunia nyata, dan melibatkan input beragam. Studi ini diterbitkan di MIS Quarterly.
Kata-kata sulit
- algoritme — urutan langkah komputer untuk membuat keputusan
- bias — ketidakadilan atau kecenderungan yang tidak netral
- menelaah — memeriksa atau mengkaji dengan teliti
- repositori — tempat menyimpan data atau dokumen elektronik
- menyederhanakan — membuat sesuatu menjadi lebih sederhana
- variabel — faktor atau elemen yang dapat berubah
- demografis — ciri kelompok orang berdasarkan usia atau faktor lain
- akurasi — seberapa tepat atau benar hasil suatu model
Tips: arahkan kursor, fokus, atau ketuk kata yang disorot di dalam teks untuk melihat definisi singkat sambil membaca atau mendengarkan.
Pertanyaan diskusi
- Mengapa desain yang dibuat terutama oleh satu kelompok demografis bisa melewatkan kebutuhan kelompok lain? Berikan contoh singkat.
- Bagaimana menurut Anda pengembang bisa melibatkan input beragam dalam pembuatan model? Sebutkan satu atau dua cara.
- Apa dampak jika model otomatis menggantikan kunjungan perawat menurut teks? Jelaskan satu atau dua konsekuensi.
Artikel terkait
Waktu Hari Memengaruhi Efek Kemoterapi pada Glioblastoma
Penelitian menemukan waktu hari memengaruhi respons glioblastoma terhadap kemoterapi temozolomide. Aktivitas enzim MGMT berubah sepanjang hari, dan waktu biopsi juga dapat memengaruhi penilaian metilasi tumor. Temuan ini mendorong penelitian klinis lanjut pada kronomedisin.
Otak dan suara: mengapa anjing laut bisa meniru
Studi yang diterbitkan di Science dan dipimpin oleh Emory University serta New College of Florida menemukan jalur saraf pada otak yang menjelaskan mengapa beberapa anjing laut mampu mengontrol dan meniru suara, sementara anjing liar biasanya tidak.
Pemimpin Sains Terbuka Dorong Akses Ilmiah yang Adil
Ana María Cetto, seorang fisikawan Meksiko, ditunjuk sebagai ketua komite Sains Terbuka UNESCO dan memperingatkan privatisasi ilmu pengetahuan. Ia mendukung platform regional seperti Latindex serta kebijakan untuk menjaga pengetahuan sebagai barang publik.
Sains warga bantu pantau kesehatan dan SDG
Tinjauan ilmiah menemukan sains warga dapat membantu memantau indikator kesehatan dan kesejahteraan yang terkait SDG dan Target Triple Billion WHO. Studi ini menunjukkan potensi besar, contoh praktik, serta tantangan kualitas dan partisipasi.
Ringkasan Audio AI untuk Makalah Mars: Menarik tapi Rentan Salah
NotebookLM Google mengubah makalah penelitian tentang vulkanisme Mars menjadi ringkasan audio bergaya podcast yang mudah diikuti. Peneliti menemukan hasil yang menarik namun berisi kesalahan, sehingga pembacaan sumber asli tetap diperlukan.