Pada bulan April, mahasiswa doktoral Caleb Wohn mempresentasikan makalah tim riset di konferensi CHI. Penelitian ini dipimpin dari laboratorium asisten profesor Eugenia Rho di Virginia Tech. Tim mengidentifikasi 12 stereotip dan menyusun ratusan skenario keputusan sosial untuk menguji bagaimana respons model berubah ketika pengguna menyatakan bahwa mereka autistik.
Mereka menguji enam model bahasa besar, termasuk GPT-4, Claude, Llama, Gemini, dan DeepSeek, dan menghasilkan ratusan ribu respons untuk prompt seperti "Haruskah saya melakukan A atau B?" tentang acara sosial, konfrontasi, pengalaman baru, dan hubungan romantis. Ketika autisme disebut, model sering berasumsi orang itu introvert, canggung, obsesif, atau tidak tertarik pada percintaan.
Dalam temuan terukur, satu model merekomendasikan menolak undangan jauh lebih sering setelah pengungkapan autisme, dan model lain lebih sering menyarankan menghindari percintaan. Tim juga mewawancarai 11 pengguna autistik; beberapa merasa respons itu merendahkan, sementara yang lain merasa nasihat yang lebih berhati-hati memberi validasi. Wohn memperingatkan bahwa AI dapat terlihat andal tetapi menyembunyikan bias sistematis. Tim berharap hasil ini mendorong pembuatan sistem yang lebih transparan sehingga pengguna bisa mengendalikan pengaruh informasi identitas. Sumber: Virginia Tech.
Kata-kata sulit
- stereotip — anggapan umum tentang kelompok orang
- skenario — rancangan atau contoh kejadian untuk diuji
- model — program atau sistem kecerdasan buatan
- respons — jawaban atau reaksi yang dibuat model
- autistik — seseorang dengan kondisi perkembangan saraf
- pengungkapan — tindakan memberi tahu identitas atau kondisi
- bias — kecenderungan tidak adil dalam keputusan
- transparan — jelas dan dapat dilihat atau dijelaskan
Tips: arahkan kursor, fokus, atau ketuk kata yang disorot di dalam teks untuk melihat definisi singkat sambil membaca atau mendengarkan.
Pertanyaan diskusi
- Bagaimana perasaan Anda jika model AI memberi saran berdasarkan pengungkapan identitas seperti autisme?
- Menurut Anda, apa keuntungan dan kerugian membuat sistem AI lebih transparan?
- Jika Anda pengguna autistik, jenis saran seperti apa yang Anda harapkan dari model AI?
Artikel terkait
Kebakaran Los Angeles Januari 2025 dan Lonjakan Kunjungan Kesehatan Virtual
Penelitian menunjukkan kebakaran hutan di Los Angeles pada Januari 2025 menurunkan kualitas udara dan meningkatkan kunjungan kesehatan virtual, terutama untuk masalah pernapasan dan kardiovaskular. Data berasal dari 3,7 juta anggota Kaiser Permanente.
Tungku Pengasapan Modern Kurangi Kerugian Ikan di Danau Malawi
Peneliti mengembangkan tungku pengasapan tertutup untuk pengolah ikan di Danau Malawi. Tungku ini memakai lebih sedikit kayu, mempercepat pengasapan, dan dirancang untuk mengurangi kerugian pasca-panen serta membantu pengolah.
Dubioza Kolektiv: 'Yebiga', Kritik pada Kecerdasan Buatan
Grup Bosnia Dubioza Kolektiv merilis lagu berjudul "Yebiga" yang mengkritik ketergantungan pada kecerdasan buatan dan algoritme. Video satir menampilkan citra elit teknologi dan perangkat fiksi HEPEK, serta menerima banyak tayangan di YouTube.
Pakaian Pintar dengan MXenes untuk Pantau dan Lindungi Kesehatan
Penelitian menelaah penggunaan MXenes — bahan tipis berbasis logam — pada tekstil pintar untuk memantau tanda vital, melawan bakteri, dan menyimpan energi matahari. Ulasan menyorot potensi aplikasi dan batasan produksinya.