Tim riset dari Virginia Tech, dipimpin dari laboratorium asisten profesor Eugenia Rho dan dipresentasikan oleh mahasiswa doktoral Caleb Wohn di konferensi CHI pada bulan April, meneliti bagaimana pengungkapan autisme mengubah saran model bahasa besar. Para peneliti memilih 12 stereotip yang terdokumentasi dengan baik dan menyusun ratusan skenario keputusan sehari-hari untuk melihat efek pada nasihat sosial.
Mereka menguji enam model bahasa besar — termasuk GPT-4, Claude, Llama, Gemini, dan DeepSeek — dan menghasilkan 345,000 respons untuk ribuan prompt berupa "Haruskah saya melakukan A atau B?" tentang acara sosial, konfrontasi, pengalaman baru, dan hubungan romantis. Hasil menunjukkan pergeseran yang konsisten: model sering menafsirkan pengungkapan autisme sebagai tanda introversi, kecanggungan sosial, obsesi, atau ketidaktertarikan pada percintaan.
- Satu model merekomendasikan menolak undangan hampir 75% setelah pengungkapan, versus sekitar 15% tanpa pengungkapan.
- Model lain menyarankan menghindari percintaan hampir 70% setelah pengungkapan, dibandingkan kira-kira 50% tanpa pengungkapan.
- Sebelas dari 12 stereotip memengaruhi keputusan di setidaknya empat dari enam sistem.
Tim juga mewawancarai 11 pengguna AI yang autistik dan menunjukkan contoh respons dengan dan tanpa pengungkapan. Beberapa peserta menggambarkan respons sebagai membatasi atau merendahkan—seorang peserta bertanya, "Apakah kita sedang menulis kolom nasihat untuk Spock di sini?"—sedangkan yang lain merasakan validasi dari nasihat yang lebih berhati-hati. Rho merangkum ketegangan itu: "Bias satu pengguna bisa menjadi personalisasi bagi pengguna lain," yang disebut peneliti sebagai "paradoks keselamatan-peluang." Wohn memperingatkan bahwa sistem AI bisa tampak andal meski menyembunyikan bias sistematis. Para peneliti berharap temuan ini mendorong pengembang untuk membangun sistem yang lebih transparan sehingga pengguna dapat mengendalikan bagaimana informasi identitas pribadi memengaruhi respons. Sumber: Virginia Tech.
Kata-kata sulit
- pengungkapan — tindakan memberi tahu informasi pribadi orang lain
- stereotip — keyakinan umum yang menyederhanakan kelompok orang
- menafsirkan — memberi makna atau penjelasan pada sesuatu
- introversi — sifat cenderung lebih fokus pada dunia batin
- merendahkan — mengurangi harga diri atau menghina orang lain
- paradoks — situasi dengan dua hasil yang bertentanganparadoks keselamatan-peluang
- mengendalikan — mengatur atau mengarahkan sesuatu secara sadar
Tips: arahkan kursor, fokus, atau ketuk kata yang disorot di dalam teks untuk melihat definisi singkat sambil membaca atau mendengarkan.
Pertanyaan diskusi
- Bagaimana Anda menilai istilah "paradoks keselamatan-peluang" dalam konteks nasihat AI untuk pengguna autistik? Berikan alasan singkat.
- Langkah konkret apa yang bisa dilakukan pengembang untuk membuat sistem AI lebih transparan dan memberi kontrol kepada pengguna? Beri satu atau dua contoh.
- Dalam artikel, beberapa pengguna merasa nasihat itu membatasi sedangkan yang lain merasa divalidasi. Mengapa dua reaksi ini mungkin terjadi, dan bagaimana layanan AI bisa menanggapi perbedaan tersebut?
Artikel terkait
Studi: Serangan Pribadi di Kongres Tarik Perhatian Media
Penelitian Notre Dame melihat mengapa beberapa anggota Kongres menggunakan serangan pribadi dan apa yang mereka dapatkan. Temuan utama: serangan pribadi menarik liputan media besar tetapi tidak terkait dengan keberhasilan legislatif atau penggalangan dana.
Kota Asia Atasi Kemacetan dengan Transportasi Bersih
Kemacetan di banyak kota Asia menaikkan polusi dan merugikan ekonomi. Beberapa kota, seperti New Delhi, Bangkok, Filipina, dan Jakarta, memperluas metro, menambah bus listrik, dan menerapkan kebijakan parkir untuk mengurangi lalu lintas.
Peta Biologis Menghubungkan Sel dan Jaringan Otak
Sebuah studi di Nature Communications menggabungkan pemindaian otak, data genetik, dan pencitraan molekuler untuk menunjukkan bagaimana organisasi seluler dan molekuler membentuk jaringan otak besar. Temuan berpotensi mengubah studi kognisi dan gangguan mental.
Titik tipping mekanis menjelaskan loncatan fibrosis
Ilmuwan dari Washington University dan Tsinghua menemukan titik tipping mekanis yang membuat sel berkoordinasi tiba-tiba dan menyebabkan fibrosis. Studi yang dipublikasikan di Proceedings of the National Academy of Sciences menyorot peran kolagen dan ikatan silang.