Model AI Menilai Teks Berbeda Berdasarkan Pengetahuan tentang Penulis ^{CEFR B1}

Penelitian terbaru menunjukkan bahwa model AI, seperti Large Language Models (LLMs), dapat menilai teks dengan cara yang berbeda berdasarkan siapa yang mereka pikirkan sebagai penulis. Studi ini menemukan bahwa bias nampak jelas ketika identitas penulis terungkap, mengungkapkan bias sistematis terhadap penulis dari Cina. Kesepakatan di antara model-model ini menurun secara signifikan ketika mereka menganggap teks ditulis oleh orang yang berasal dari Cina, terlepas dari isi argumennya.

Menariknya, para peneliti juga menemukan bahwa model AI lebih mempercayai teks yang ditulis oleh manusia daripada oleh AI lain. Ini menunjukkan adanya ketidakpastian terhadap informasi yang dihasilkan oleh mesin. Bias ini merupakan isu yang serius, terutama ketika AI digunakan dalam konteks yang sensitif seperti moderasi konten dan perekrutan.

Oleh karena itu, penting untuk membangun transparansi dan pengawasan dalam bagaimana AI menilai informasi. Jika tidak, AI akan melanggengkan asumsi berbahaya ini. Para peneliti memperingatkan bahwa meskipun AI dapat membantu, mereka tidak seharusnya menjadi penilai akhir di dalam keputusan kritis.