Tim riset dari Virginia Tech, dipimpin dari laboratorium asisten profesor Eugenia Rho dan dipresentasikan oleh mahasiswa doktoral Caleb Wohn di konferensi CHI pada bulan April, meneliti bagaimana pengungkapan autisme mengubah saran model bahasa besar. Para peneliti memilih 12 stereotip yang terdokumentasi dengan baik dan menyusun ratusan skenario keputusan sehari-hari untuk melihat efek pada nasihat sosial.
Mereka menguji enam model bahasa besar — termasuk GPT-4, Claude, Llama, Gemini, dan DeepSeek — dan menghasilkan 345,000 respons untuk ribuan prompt berupa "Haruskah saya melakukan A atau B?" tentang acara sosial, konfrontasi, pengalaman baru, dan hubungan romantis. Hasil menunjukkan pergeseran yang konsisten: model sering menafsirkan pengungkapan autisme sebagai tanda introversi, kecanggungan sosial, obsesi, atau ketidaktertarikan pada percintaan.
- Satu model merekomendasikan menolak undangan hampir 75% setelah pengungkapan, versus sekitar 15% tanpa pengungkapan.
- Model lain menyarankan menghindari percintaan hampir 70% setelah pengungkapan, dibandingkan kira-kira 50% tanpa pengungkapan.
- Sebelas dari 12 stereotip memengaruhi keputusan di setidaknya empat dari enam sistem.
Tim juga mewawancarai 11 pengguna AI yang autistik dan menunjukkan contoh respons dengan dan tanpa pengungkapan. Beberapa peserta menggambarkan respons sebagai membatasi atau merendahkan—seorang peserta bertanya, "Apakah kita sedang menulis kolom nasihat untuk Spock di sini?"—sedangkan yang lain merasakan validasi dari nasihat yang lebih berhati-hati. Rho merangkum ketegangan itu: "Bias satu pengguna bisa menjadi personalisasi bagi pengguna lain," yang disebut peneliti sebagai "paradoks keselamatan-peluang." Wohn memperingatkan bahwa sistem AI bisa tampak andal meski menyembunyikan bias sistematis. Para peneliti berharap temuan ini mendorong pengembang untuk membangun sistem yang lebih transparan sehingga pengguna dapat mengendalikan bagaimana informasi identitas pribadi memengaruhi respons. Sumber: Virginia Tech.
Kata-kata sulit
- pengungkapan — tindakan memberi tahu informasi pribadi orang lain
- stereotip — keyakinan umum yang menyederhanakan kelompok orang
- menafsirkan — memberi makna atau penjelasan pada sesuatu
- introversi — sifat cenderung lebih fokus pada dunia batin
- merendahkan — mengurangi harga diri atau menghina orang lain
- paradoks — situasi dengan dua hasil yang bertentanganparadoks keselamatan-peluang
- mengendalikan — mengatur atau mengarahkan sesuatu secara sadar
Tips: arahkan kursor, fokus, atau ketuk kata yang disorot di dalam teks untuk melihat definisi singkat sambil membaca atau mendengarkan.
Pertanyaan diskusi
- Bagaimana Anda menilai istilah "paradoks keselamatan-peluang" dalam konteks nasihat AI untuk pengguna autistik? Berikan alasan singkat.
- Langkah konkret apa yang bisa dilakukan pengembang untuk membuat sistem AI lebih transparan dan memberi kontrol kepada pengguna? Beri satu atau dua contoh.
- Dalam artikel, beberapa pengguna merasa nasihat itu membatasi sedangkan yang lain merasa divalidasi. Mengapa dua reaksi ini mungkin terjadi, dan bagaimana layanan AI bisa menanggapi perbedaan tersebut?
Artikel terkait
Arsip Warga Menyimpan Lagu dan Cerita Lisan
Arsiparis warga di Asia Selatan merekam lagu rakyat, teka-teki, sejarah lisan, dan pengetahuan obat tradisional. Proyek ini mendukung pengunggahan materi ke Wikimedia Commons, Wikisource, dan Wikipedia untuk melestarikan pengetahuan yang hilang.
Calon Perempuan di Uganda Diserang Secara Daring
Dalam pemilu Januari 2026 beberapa calon perempuan Uganda menghadapi serangan online seperti gambar AI, deepfake, disinformasi, dan hinaan seksual. Teknologi memperkuat kekerasan yang sudah ada dan tidak ada undang-undang khusus untuk itu.
Tes AI Baru untuk Prediksi Kekambuhan Kanker Payudara
Sebuah studi di Nature Communications melaporkan tes kecerdasan buatan yang memprediksi risiko kekambuhan kanker payudara. Tes ini diuji pada data lebih dari 3.500 pasien dan dinilai lebih cepat serta lebih murah dibanding tes genomik.
Aplikasi dan pesan teks bantu kesehatan mental mahasiswa
Penelitian besar menemukan aplikasi ponsel ditambah pendampingan lewat pesan teks mengurangi depresi, kecemasan, dan gangguan makan pada mahasiswa. Lebih dari 6.200 mahasiswa ikut serta dan hasil dipublikasikan di Nature Human Behavior.