قاد فيديريكو جيرماني وجيوفاني سبيتالي دراسة في جامعة زيورخ اختبرت كيف تؤثر هوية المؤلف على تقييم نماذج اللغة الكبيرة. شملت العينة أربعة نماذج واسعة الاستخدام: OpenAI o3-mini وDeepseek Reasoner وxAI Grok 2 وMistral. طلب الباحثان من كل نموذج إنتاج خمسين عبارة سردية حول 24 موضوعاً مثيراً للجدل، ثم طُلِب من النماذج تقييم هذه العبارات في ظروف مختلفة؛ أحياناً من دون ذكر مصدر، وأحياناً بنسب النص إلى شخص من جنسية معينة أو إلى نموذج ذكاء اصطناعي آخر. جمع الفريق 192’000 تقييماً لتحليل النتائج.
أظهرت النتائج أن النماذج تتفق بدرجة عالية عندما لا تُذكر هوية الكاتب، فوق 90% عبر الموضوعات. لكن إدراج هويات خيالية غيّر النمط: انخفض الاتفاق بين الأنظمة بشدة وأحياناً اختفى، رغم أن النص ظل متطابقاً. كان التحفّظ الأبرز تحيّزاً ضد الصين عبر جميع النماذج، بما في ذلك Deepseek الخاص بالصين، وانخفض الاتفاق مع المحتوى عندما وُصِف المؤلف بأنه «شخص من الصين». في مواضيع الجغرافيا السياسية مثل سيادة تايوان، قلّص Deepseek الاتفاق بما يصل إلى 75% فقط بسبب افتراض وجهة نظر مختلفة.
كما وجدت الدراسة ميلاً عاماً لدى النماذج إلى الثقة أكثر بالمؤلفين البشر مقارنة بذكاءات اصطناعية أخرى، حيث أعطيت درجات أقل قليلاً عندما ظنت النماذج أن النص كُتب بواسطة الذكاء الاصطناعي. يحذر الباحثان من أن هذه التحيّزات يمكن أن تؤثر على مراقبة المحتوى والتوظيف والمراجعات الأكاديمية أو الصحافة، ويؤكدان ضرورة الشفافية والحكم المؤسسي. يوصيان باستخدام نماذج اللغة كمساعدات للتفكير وليس كقضاة نهائيين. الدراسة نُشرت في Sciences Advances، المصدر University of Zurich.
كلمات صعبة
- هوية — صفة أو مجموعة معلومات تحدد الشخص أو المصدر
- تقييم — تحديد جودة أو قيمة نص أو عمل
- مؤلف — الشخص الذي كتب نصًا أو عملاًالمؤلف
- تحفّظ — اعتراض أو حذر يظهر تجاه فكرة أو نتيجةالتحفّظ
- تحيّز — ميل أو انحياز ضد مجموعة أو فكرةتحيّزاً
- اتفاق — مستوى التشابه أو التوافق بين آراءالاتفاق
- شفافية — وضوح المعلومات وإعلان الطرق والقراراتالشفافية
- مراقبة المحتوى — فحص ومتابعة المواد المنشورة أو المنشورات
تلميح: مرّر المؤشر أو ركّز أو اضغط على الكلمات المظلَّلة داخل القصة لرؤية تعريفات سريعة أثناء القراءة أو الاستماع.
أسئلة للمناقشة
- كيف يمكن أن تؤثر تحيّزات النماذج تجاه جنسية المؤلف على مراقبة المحتوى أو العمل الصحفي؟ اذكر مثالًا واحدًا.
- ما الإجراءات التي يمكن أن تتخذها المؤسسات لزيادة الشفافية والحكم المؤسسي عند استخدام نماذج اللغة؟
- كيف يؤثر افتراض أن النص كتب بواسطة ذكاء اصطناعي على ثقة القارئ؟ هل تغير طريقة تقييمك للنص؟ اشرح بإيجاز.
قصص ذات صلة
الذكاء الاصطناعي ومعلومات الصحة الجنسية في أمريكا اللاتينية
تستخدم مجموعات بحثية ومنظمات غير حكومية الذكاء الاصطناعي لنشر معلومات عن الصحة الجنسية والإنجابية والوصول إلى الشباب والفئات المهمشة. تبرز مشاريع في بيرو وأرجنتين منصات مثل TeleNanu وNOA وتواجه تحديات تتعلق بالتحيّز والبيانات والتنظيم.