Alat kecerdasan buatan kini menjangkau banyak orang, tetapi beberapa sistem menunjukkan bias. Penelitian dari University of Texas at Austin memeriksa ratusan algoritme yang sebelumnya dilaporkan bermasalah.
Para peneliti membandingkan setiap algoritme bermasalah dengan algoritme lain yang serupa dan menelaah organisasi yang membuat serta menggunakan alat itu. Mereka menemukan tiga penyebab utama bias: tidak adanya kebenaran dasar yang jelas, model yang menyederhanakan dunia nyata sehingga menghilangkan variabel penting, dan desain yang kurang melibatkan berbagai pemangku kepentingan.
Studi menyimpulkan bahwa mengurangi bias memerlukan lebih dari sekadar meningkatkan akurasi. Pengembang perlu memikirkan data, tujuan, dan siapa yang terlibat.
Kata-kata sulit
- kecerdasan buatan — teknologi yang membuat mesin bisa berpikir
- bias — ketidakseimbangan yang membuat hasil tidak adil
- algoritme — aturan komputer untuk memproses data dan membuat keputusan
- menelaah — memeriksa sesuatu secara teliti dan hati-hati
- penyebab — alasan atau faktor yang membuat sesuatu terjadi
- pemangku kepentingan — orang atau kelompok yang terlibat dan terpengaruh oleh keputusan
- akurasi — seberapa tepat atau benar hasil suatu sistem
Tips: arahkan kursor, fokus, atau ketuk kata yang disorot di dalam teks untuk melihat definisi singkat sambil membaca atau mendengarkan.
Pertanyaan diskusi
- Apakah menurut Anda penting melibatkan berbagai orang saat merancang alat AI? Mengapa?
- Berikan contoh sederhana bagaimana model yang menyederhanakan bisa menghilangkan variabel penting.
Artikel terkait
Kapal Penelitian Nansen Batal Survei di Perairan Sri Lanka
Kapal penelitian Norwegia Dr. Fridtjof Nansen membatalkan survei yang direncanakan di perairan Sri Lanka pada 2025 karena izin pemerintah terlambat. FAO menugaskan kapal itu ke Madagaskar dan para ilmuwan menyayangkan penundaan tersebut.
AI bantu layanan kesehatan di Sudan
Sistem kesehatan Sudan tertekan setelah hampir dua tahun perang. WHO memperingatkan kekurangan staf dan obat. Pejabat kesehatan mengatakan Sudan mulai memakai kecerdasan buatan untuk membantu perawatan di tempat layanan tradisional tidak lagi menjangkau.
Ilmuwan Afrika Selatan Pantau Kualitas Udara Waktu Nyata dengan Metode Fisika Partikel
Ilmuwan di Afrika Selatan mengadaptasi metode fisika partikel untuk sistem AI_r yang memantau kualitas udara waktu nyata menggunakan sensor murah, IoT, dan kecerdasan buatan. Proyek memasang 500 sensor di Sedibeng tahun depan dan mendapat dukungan internasional.