Tim riset dari Virginia Tech, dipimpin dari laboratorium asisten profesor Eugenia Rho dan dipresentasikan oleh mahasiswa doktoral Caleb Wohn di konferensi CHI pada bulan April, meneliti bagaimana pengungkapan autisme mengubah saran model bahasa besar. Para peneliti memilih 12 stereotip yang terdokumentasi dengan baik dan menyusun ratusan skenario keputusan sehari-hari untuk melihat efek pada nasihat sosial.
Mereka menguji enam model bahasa besar — termasuk GPT-4, Claude, Llama, Gemini, dan DeepSeek — dan menghasilkan 345,000 respons untuk ribuan prompt berupa "Haruskah saya melakukan A atau B?" tentang acara sosial, konfrontasi, pengalaman baru, dan hubungan romantis. Hasil menunjukkan pergeseran yang konsisten: model sering menafsirkan pengungkapan autisme sebagai tanda introversi, kecanggungan sosial, obsesi, atau ketidaktertarikan pada percintaan.
- Satu model merekomendasikan menolak undangan hampir 75% setelah pengungkapan, versus sekitar 15% tanpa pengungkapan.
- Model lain menyarankan menghindari percintaan hampir 70% setelah pengungkapan, dibandingkan kira-kira 50% tanpa pengungkapan.
- Sebelas dari 12 stereotip memengaruhi keputusan di setidaknya empat dari enam sistem.
Tim juga mewawancarai 11 pengguna AI yang autistik dan menunjukkan contoh respons dengan dan tanpa pengungkapan. Beberapa peserta menggambarkan respons sebagai membatasi atau merendahkan—seorang peserta bertanya, "Apakah kita sedang menulis kolom nasihat untuk Spock di sini?"—sedangkan yang lain merasakan validasi dari nasihat yang lebih berhati-hati. Rho merangkum ketegangan itu: "Bias satu pengguna bisa menjadi personalisasi bagi pengguna lain," yang disebut peneliti sebagai "paradoks keselamatan-peluang." Wohn memperingatkan bahwa sistem AI bisa tampak andal meski menyembunyikan bias sistematis. Para peneliti berharap temuan ini mendorong pengembang untuk membangun sistem yang lebih transparan sehingga pengguna dapat mengendalikan bagaimana informasi identitas pribadi memengaruhi respons. Sumber: Virginia Tech.
Kata-kata sulit
- pengungkapan — tindakan memberi tahu informasi pribadi orang lain
- stereotip — keyakinan umum yang menyederhanakan kelompok orang
- menafsirkan — memberi makna atau penjelasan pada sesuatu
- introversi — sifat cenderung lebih fokus pada dunia batin
- merendahkan — mengurangi harga diri atau menghina orang lain
- paradoks — situasi dengan dua hasil yang bertentanganparadoks keselamatan-peluang
- mengendalikan — mengatur atau mengarahkan sesuatu secara sadar
Tips: arahkan kursor, fokus, atau ketuk kata yang disorot di dalam teks untuk melihat definisi singkat sambil membaca atau mendengarkan.
Pertanyaan diskusi
- Bagaimana Anda menilai istilah "paradoks keselamatan-peluang" dalam konteks nasihat AI untuk pengguna autistik? Berikan alasan singkat.
- Langkah konkret apa yang bisa dilakukan pengembang untuk membuat sistem AI lebih transparan dan memberi kontrol kepada pengguna? Beri satu atau dua contoh.
- Dalam artikel, beberapa pengguna merasa nasihat itu membatasi sedangkan yang lain merasa divalidasi. Mengapa dua reaksi ini mungkin terjadi, dan bagaimana layanan AI bisa menanggapi perbedaan tersebut?
Artikel terkait
Kebakaran Los Angeles Januari 2025 dan Lonjakan Kunjungan Kesehatan Virtual
Penelitian menunjukkan kebakaran hutan di Los Angeles pada Januari 2025 menurunkan kualitas udara dan meningkatkan kunjungan kesehatan virtual, terutama untuk masalah pernapasan dan kardiovaskular. Data berasal dari 3,7 juta anggota Kaiser Permanente.
Tungku Pengasapan Modern Kurangi Kerugian Ikan di Danau Malawi
Peneliti mengembangkan tungku pengasapan tertutup untuk pengolah ikan di Danau Malawi. Tungku ini memakai lebih sedikit kayu, mempercepat pengasapan, dan dirancang untuk mengurangi kerugian pasca-panen serta membantu pengolah.
Dubioza Kolektiv: 'Yebiga', Kritik pada Kecerdasan Buatan
Grup Bosnia Dubioza Kolektiv merilis lagu berjudul "Yebiga" yang mengkritik ketergantungan pada kecerdasan buatan dan algoritme. Video satir menampilkan citra elit teknologi dan perangkat fiksi HEPEK, serta menerima banyak tayangan di YouTube.
Pakaian Pintar dengan MXenes untuk Pantau dan Lindungi Kesehatan
Penelitian menelaah penggunaan MXenes — bahan tipis berbasis logam — pada tekstil pintar untuk memantau tanda vital, melawan bakteri, dan menyimpan energi matahari. Ulasan menyorot potensi aplikasi dan batasan produksinya.