نماذج اللغة الكبيرة تحكم على النصوص بشكل مختلف ^{CEFR B1}

تعتبر نماذج اللغة الكبيرة أدوات شائعة لإنتاج وتقييم المحتوى. ومع ذلك، وجدت دراسة جديدة أن هذه النماذج تظهر تحيزات قوية عندما تعرف هوية المؤلف. عندما لا يتم تزويدها بمعلومات عن المؤلف، تُظهر النتائج توافقًا عاليًا بين النماذج، لكن الوضع يتغير عندما تُعطى أسماء المؤلفين.

تبين أن التحليل كشف عن تحيز محتمل ضد الكُتّاب الصينيين، مما يعكس قلقًا حول العدالة في التقييم. على سبيل المثال، تم تقليل مستوى الاتفاق بوضوح عندما تم تقدير نص كتبه مؤلف صيني، حتى لو كان النص منطقيًا ومكتوبًا بشكل جيد.

علاوة على ذلك، أظهرت النتائج أن النماذج تميل إلى الثقة بالبشر أكثر من الأنظمة الآلية، مما يشير إلى شك في المحتوى المولد بواسطة الذكاء الاصطناعي. هذه التحيزات قد تؤدي إلى مشاكل خطيرة في مجالات مثل التوظيف، المراجعة الأكاديمية، ووسائل الإعلام. هناك حاجة لبناء الشفافية والإشراف على كيفية تقييم هذه الأنظمة للمعلومات.