Mô hình ngôn ngữ lớn đánh giá văn bản khác nhau khi biết tác giả ^{CEFR B1}

Các nghiên cứu gần đây chỉ ra rằng các mô hình ngôn ngữ lớn (LLMs) không chỉ xử lý nội dung một cách khách quan mà còn phản ứng mạnh mẽ với danh tính của tác giả. Khi các LLMs biết nguồn gốc của văn bản, thiên kiến có thể xuất hiện, dẫn đến những đánh giá không công bằng. Chẳng hạn, trong một cuộc khảo sát, sự đồng thuận giữa các LLMs giảm khi một tác giả người Trung Quốc được xác định giả định, mặc dù nội dung văn bản vẫn giống nhau.

Các nhà nghiên cứu Federico Germani và Giovanni Spitale từ Đại học Zurich nhấn mạnh rằng LLMs thường tin tưởng con người hơn là các AI khác. Điều này gây ra mối lo ngại về cách mà AI có thể được sử dụng trong các lĩnh vực nhạy cảm như tuyển dụng hay truyền thông.

Để sử dụng AI một cách an toàn, cần phải có sự minh bạch và giám sát trong cách mà các mô hình này đánh giá thông tin. Hiện tại, mọi người không nên hoàn toàn tin tưởng vào các LLMs mà nên sử dụng chúng như những công cụ hỗ trợ tư duy.