Tim riset dari Virginia Tech, dipimpin dari laboratorium asisten profesor Eugenia Rho dan dipresentasikan oleh mahasiswa doktoral Caleb Wohn di konferensi CHI pada bulan April, meneliti bagaimana pengungkapan autisme mengubah saran model bahasa besar. Para peneliti memilih 12 stereotip yang terdokumentasi dengan baik dan menyusun ratusan skenario keputusan sehari-hari untuk melihat efek pada nasihat sosial.
Mereka menguji enam model bahasa besar — termasuk GPT-4, Claude, Llama, Gemini, dan DeepSeek — dan menghasilkan 345,000 respons untuk ribuan prompt berupa "Haruskah saya melakukan A atau B?" tentang acara sosial, konfrontasi, pengalaman baru, dan hubungan romantis. Hasil menunjukkan pergeseran yang konsisten: model sering menafsirkan pengungkapan autisme sebagai tanda introversi, kecanggungan sosial, obsesi, atau ketidaktertarikan pada percintaan.
- Satu model merekomendasikan menolak undangan hampir 75% setelah pengungkapan, versus sekitar 15% tanpa pengungkapan.
- Model lain menyarankan menghindari percintaan hampir 70% setelah pengungkapan, dibandingkan kira-kira 50% tanpa pengungkapan.
- Sebelas dari 12 stereotip memengaruhi keputusan di setidaknya empat dari enam sistem.
Tim juga mewawancarai 11 pengguna AI yang autistik dan menunjukkan contoh respons dengan dan tanpa pengungkapan. Beberapa peserta menggambarkan respons sebagai membatasi atau merendahkan—seorang peserta bertanya, "Apakah kita sedang menulis kolom nasihat untuk Spock di sini?"—sedangkan yang lain merasakan validasi dari nasihat yang lebih berhati-hati. Rho merangkum ketegangan itu: "Bias satu pengguna bisa menjadi personalisasi bagi pengguna lain," yang disebut peneliti sebagai "paradoks keselamatan-peluang." Wohn memperingatkan bahwa sistem AI bisa tampak andal meski menyembunyikan bias sistematis. Para peneliti berharap temuan ini mendorong pengembang untuk membangun sistem yang lebih transparan sehingga pengguna dapat mengendalikan bagaimana informasi identitas pribadi memengaruhi respons. Sumber: Virginia Tech.
Kata-kata sulit
- pengungkapan — tindakan memberi tahu informasi pribadi orang lain
- stereotip — keyakinan umum yang menyederhanakan kelompok orang
- menafsirkan — memberi makna atau penjelasan pada sesuatu
- introversi — sifat cenderung lebih fokus pada dunia batin
- merendahkan — mengurangi harga diri atau menghina orang lain
- paradoks — situasi dengan dua hasil yang bertentanganparadoks keselamatan-peluang
- mengendalikan — mengatur atau mengarahkan sesuatu secara sadar
Tips: arahkan kursor, fokus, atau ketuk kata yang disorot di dalam teks untuk melihat definisi singkat sambil membaca atau mendengarkan.
Pertanyaan diskusi
- Bagaimana Anda menilai istilah "paradoks keselamatan-peluang" dalam konteks nasihat AI untuk pengguna autistik? Berikan alasan singkat.
- Langkah konkret apa yang bisa dilakukan pengembang untuk membuat sistem AI lebih transparan dan memberi kontrol kepada pengguna? Beri satu atau dua contoh.
- Dalam artikel, beberapa pengguna merasa nasihat itu membatasi sedangkan yang lain merasa divalidasi. Mengapa dua reaksi ini mungkin terjadi, dan bagaimana layanan AI bisa menanggapi perbedaan tersebut?
Artikel terkait
Penangkapan Karbon Kurangi Dampak Iklim Pusat Data
Studi baru menunjukkan penangkapan dan penyimpanan karbon dapat mengurangi emisi dari pusat data yang cepat tumbuh. Kapasitas pusat data AS diperkirakan naik antara 2025 dan 2030, dan banyak negara bagian memiliki tempat penyimpanan bawah tanah.
Peningkatan Permintaan Listrik dari Pusat Data Bisa Naikkan Harga dan Emisi
Studi memperingatkan bahwa pertumbuhan pusat data dan penambangan kriptokurensi dapat menaikkan biaya listrik dan emisi di Amerika Serikat pada 2030. Peneliti memodelkan permintaan dan memproyeksikan kenaikan harga serta emisi, serta menyoroti ketidakpastian biaya dan bahan bakar.
Peta Biologis Menghubungkan Sel dan Jaringan Otak
Sebuah studi di Nature Communications menggabungkan pemindaian otak, data genetik, dan pencitraan molekuler untuk menunjukkan bagaimana organisasi seluler dan molekuler membentuk jaringan otak besar. Temuan berpotensi mengubah studi kognisi dan gangguan mental.