Tim dari University of Zurich, termasuk Federico Germani dan Giovanni Spitale, meneliti bagaimana identitas pengarang memengaruhi penilaian large language models. Mereka menguji empat model populer: OpenAI o3-mini, Deepseek Reasoner, xAI Grok 2, dan Mistral. Pertama, setiap model menghasilkan lima puluh pernyataan naratif pada 24 topik kontroversial. Selanjutnya para peneliti mengumpulkan 192’000 penilaian untuk dianalisis.
Hasil menunjukkan bahwa saat tidak ada informasi tentang sumber, model-model itu memiliki tingkat kesepakatan tinggi, di atas 90%. Namun pola berubah setelah peneliti menambahkan sumber fiksi. Menyebut identitas pengarang menimbulkan bias tersembunyi dan menurunkan kesepakatan, walau teks tidak berubah.
Salah satu temuan penting adalah bias anti-Cina yang kuat di semua model. Deepseek, misalnya, mengurangi kesepakatan hingga 75% pada topik kedaulatan Taiwan karena asumsi tentang pandangan orang Cina. Para peneliti memperingatkan bahwa bias semacam ini dapat memengaruhi moderasi konten, perekrutan, penelaahan akademik, dan jurnalisme, dan mereka menyerukan transparansi serta tata kelola.
Kata-kata sulit
- menilai — memberikan nilai atau penilaian terhadap sesuatu.
- bias — penilaian yang tidak adil terhadap sesuatu.bias nampak, bias sistematis
- transparansi — kejelasan dalam proses atau informasi.
- ketidakpastian — keadaan tidak yakin atau ragu.
- mengungkapkan — menyatakan atau menunjukkan sesuatu.
- pengawasan — proses memantau untuk mencegah masalah.
Tips: arahkan kursor, fokus, atau ketuk kata yang disorot di dalam teks untuk melihat definisi singkat sambil membaca atau mendengarkan.
Pertanyaan diskusi
- Apa pandangan Anda tentang penggunaan AI dalam moderasi konten?
- Bagaimana bias dapat mempengaruhi keputusan dalam perekrutan?
- Seberapa penting transparansi dalam penggunaan teknologi AI?
- Apa yang bisa dilakukan untuk mengurangi bias dalam model AI?
Artikel terkait
Pterosaurus Mengembangkan Penerbangan dengan Cepat
Studi baru memakai CT scan untuk melihat rongga otak pterosaurus dan menemukan bahwa kemampuan terbang berkembang pesat sejak asal-usul kelompok itu. Peneliti membandingkan otak pterosaurus dengan kerabat tak terbang dan hewan purba lain.
AI melawan pemasaran tembakau yang menargetkan anak muda
Di konferensi tentang pengendalian tembakau para ahli mengatakan AI bisa membantu menghentikan perusahaan tembakau yang menargetkan anak muda secara daring. Media sosial dan produk baru dianggap menarik generasi muda, dan negara miskin menanggung beban terbesar.
Peradangan Kaitan dengan Pilihan Bersosialisasi di Media Sosial
Studi menemukan orang dengan peradangan lebih tinggi cenderung berinteraksi lewat media sosial daripada bertemu langsung. Penelitian dipimpin oleh David Lee dari University at Buffalo dan dipublikasikan di Scientific Reports.
Forum Jurnalis Sains: Pelajaran dari Pandemi
Science Journalism Forum (30 Agustus—2 September) mengumpulkan jurnalis dan editor secara daring untuk membahas tantangan jurnalisme sains selama pandemi. Konferensi bertujuan memperkuat jaringan dan keterampilan, terutama di negara berkembang.