Alat kecerdasan buatan kini menjangkau banyak orang, tetapi beberapa sistem menunjukkan bias. Penelitian dari University of Texas at Austin memeriksa ratusan algoritme yang sebelumnya dilaporkan bermasalah.
Para peneliti membandingkan setiap algoritme bermasalah dengan algoritme lain yang serupa dan menelaah organisasi yang membuat serta menggunakan alat itu. Mereka menemukan tiga penyebab utama bias: tidak adanya kebenaran dasar yang jelas, model yang menyederhanakan dunia nyata sehingga menghilangkan variabel penting, dan desain yang kurang melibatkan berbagai pemangku kepentingan.
Studi menyimpulkan bahwa mengurangi bias memerlukan lebih dari sekadar meningkatkan akurasi. Pengembang perlu memikirkan data, tujuan, dan siapa yang terlibat.
Kata-kata sulit
- kecerdasan buatan — teknologi yang membuat mesin bisa berpikir
- bias — ketidakseimbangan yang membuat hasil tidak adil
- algoritme — aturan komputer untuk memproses data dan membuat keputusan
- menelaah — memeriksa sesuatu secara teliti dan hati-hati
- penyebab — alasan atau faktor yang membuat sesuatu terjadi
- pemangku kepentingan — orang atau kelompok yang terlibat dan terpengaruh oleh keputusan
- akurasi — seberapa tepat atau benar hasil suatu sistem
Tips: arahkan kursor, fokus, atau ketuk kata yang disorot di dalam teks untuk melihat definisi singkat sambil membaca atau mendengarkan.
Pertanyaan diskusi
- Apakah menurut Anda penting melibatkan berbagai orang saat merancang alat AI? Mengapa?
- Berikan contoh sederhana bagaimana model yang menyederhanakan bisa menghilangkan variabel penting.
Artikel terkait
AI Mempercepat Diagnostik Medis di Sub-Sahara Afrika
Kecerdasan buatan kini dipakai untuk diagnosis cepat di beberapa bagian sub-Sahara Afrika, termasuk deteksi malaria dan interpretasi rontgen. Proyek awal menunjukkan pengurangan pemberian antibiotik tidak tepat dan komplikasi malaria, namun regulasi dan privasi tetap penting.
Nanopartikel bantu sel punca tingkatkan mitokondria
Para peneliti di Texas A&M University menggunakan nanopartikel berbentuk bunga (nanoflowers) untuk membuat sel punca menghasilkan lebih banyak mitokondria dan mentransfernya ke sel yang menua atau rusak, sehingga memulihkan energi seluler.
