Alat kecerdasan buatan kini menjangkau banyak orang, tetapi beberapa sistem menunjukkan bias. Penelitian dari University of Texas at Austin memeriksa ratusan algoritme yang sebelumnya dilaporkan bermasalah.
Para peneliti membandingkan setiap algoritme bermasalah dengan algoritme lain yang serupa dan menelaah organisasi yang membuat serta menggunakan alat itu. Mereka menemukan tiga penyebab utama bias: tidak adanya kebenaran dasar yang jelas, model yang menyederhanakan dunia nyata sehingga menghilangkan variabel penting, dan desain yang kurang melibatkan berbagai pemangku kepentingan.
Studi menyimpulkan bahwa mengurangi bias memerlukan lebih dari sekadar meningkatkan akurasi. Pengembang perlu memikirkan data, tujuan, dan siapa yang terlibat.
Kata-kata sulit
- kecerdasan buatan — teknologi yang membuat mesin bisa berpikir
- bias — ketidakseimbangan yang membuat hasil tidak adil
- algoritme — aturan komputer untuk memproses data dan membuat keputusan
- menelaah — memeriksa sesuatu secara teliti dan hati-hati
- penyebab — alasan atau faktor yang membuat sesuatu terjadi
- pemangku kepentingan — orang atau kelompok yang terlibat dan terpengaruh oleh keputusan
- akurasi — seberapa tepat atau benar hasil suatu sistem
Tips: arahkan kursor, fokus, atau ketuk kata yang disorot di dalam teks untuk melihat definisi singkat sambil membaca atau mendengarkan.
Pertanyaan diskusi
- Apakah menurut Anda penting melibatkan berbagai orang saat merancang alat AI? Mengapa?
- Berikan contoh sederhana bagaimana model yang menyederhanakan bisa menghilangkan variabel penting.
Artikel terkait
Africa Wiki Women: Menambah Keterlihatan Perempuan Afrika
Africa Wiki Women mendorong perempuan Afrika membuat dan memperbaiki konten di platform Wikimedia. Didirikan oleh tiga perempuan, kelompok ini melatih ratusan wanita dan menjalankan pelatihan, kampanye, serta program pendampingan untuk meningkatkan partisipasi.
Ringkasan Audio AI untuk Makalah Mars: Menarik tapi Rentan Salah
NotebookLM Google mengubah makalah penelitian tentang vulkanisme Mars menjadi ringkasan audio bergaya podcast yang mudah diikuti. Peneliti menemukan hasil yang menarik namun berisi kesalahan, sehingga pembacaan sumber asli tetap diperlukan.
Peneliti Pakai Pola Kelompok Burung untuk Kurangi Halusinasi AI
Peneliti mengembangkan langkah pra-proses yang menata kalimat seperti kelompok burung sebelum AI membuat ringkasan. Cara ini mengurangi kesalahan fakta pada ringkasan, tetapi tidak sepenuhnya menghilangkan risiko halusinasi.
Gerhana dan kekaguman meningkatkan keterikatan pada sains
Studi dari proyek sains partisipatif saat gerhana matahari total 2024 menemukan bahwa rasa kekaguman membuat orang lebih mengidentifikasi diri dengan sains dan merasa termasuk dalam komunitas ilmiah. Efek muncul setelah pengalaman singkat.