Tim dari University of Zurich, termasuk Federico Germani dan Giovanni Spitale, meneliti bagaimana identitas pengarang memengaruhi penilaian large language models. Mereka menguji empat model populer: OpenAI o3-mini, Deepseek Reasoner, xAI Grok 2, dan Mistral. Pertama, setiap model menghasilkan lima puluh pernyataan naratif pada 24 topik kontroversial. Selanjutnya para peneliti mengumpulkan 192’000 penilaian untuk dianalisis.
Hasil menunjukkan bahwa saat tidak ada informasi tentang sumber, model-model itu memiliki tingkat kesepakatan tinggi, di atas 90%. Namun pola berubah setelah peneliti menambahkan sumber fiksi. Menyebut identitas pengarang menimbulkan bias tersembunyi dan menurunkan kesepakatan, walau teks tidak berubah.
Salah satu temuan penting adalah bias anti-Cina yang kuat di semua model. Deepseek, misalnya, mengurangi kesepakatan hingga 75% pada topik kedaulatan Taiwan karena asumsi tentang pandangan orang Cina. Para peneliti memperingatkan bahwa bias semacam ini dapat memengaruhi moderasi konten, perekrutan, penelaahan akademik, dan jurnalisme, dan mereka menyerukan transparansi serta tata kelola.
Kata-kata sulit
- menilai — memberikan nilai atau penilaian terhadap sesuatu.
- bias — penilaian yang tidak adil terhadap sesuatu.bias nampak, bias sistematis
- transparansi — kejelasan dalam proses atau informasi.
- ketidakpastian — keadaan tidak yakin atau ragu.
- mengungkapkan — menyatakan atau menunjukkan sesuatu.
- pengawasan — proses memantau untuk mencegah masalah.
Tips: arahkan kursor, fokus, atau ketuk kata yang disorot di dalam teks untuk melihat definisi singkat sambil membaca atau mendengarkan.
Pertanyaan diskusi
- Apa pandangan Anda tentang penggunaan AI dalam moderasi konten?
- Bagaimana bias dapat mempengaruhi keputusan dalam perekrutan?
- Seberapa penting transparansi dalam penggunaan teknologi AI?
- Apa yang bisa dilakukan untuk mengurangi bias dalam model AI?
Artikel terkait
Penyakit Baru Mengancam Terumbu Karang Karibia
Institute of Marine Affairs memperingatkan tentang penyakit Stony Coral Tissue Loss Disease yang menyebar di Karibia dan mengancam banyak spesies karang. IMA melakukan latihan, pengobatan dan pendidikan untuk mempersiapkan kedatangan penyakit ini.
Jeda Singkat di Media Sosial untuk Kurangi Misinformasi
Peneliti dari University of Copenhagen meneliti cara sederhana untuk memperlambat penyebaran misinformasi di media sosial. Mereka menemukan bahwa menambah jeda kecil dan elemen pembelajaran dapat mengurangi pembagian impulsif dan meningkatkan kualitas unggahan yang dibagikan.
Model Fisika Baru untuk Meningkatkan Ketajaman MRI
Peneliti di Rice University dan Oak Ridge National Laboratory mengembangkan model fisika baru yang menghubungkan gerak molekul dengan sinyal MRI klinis. Studi ini menjelaskan relaksasi NMR dalam cairan dan diuji pada frekuensi MRI klinis.