أظهرت دراسة منشورة في PNAS Nexus أن ملخصات قصيرة من روبوتات الدردشة المدعومة بنماذج لغة كبيرة يمكن أن تغيّر المواقف الاجتماعية والسياسية للمستخدمين عبر تغييرات دقيقة في التأطير. قاد البحث فريق من جامعة ييل، وكان ماثيو شو المؤلف الأول ودانيال كاريل من بين الباحثين الذين شرحوا النتائج.
استخدم الباحثون مقارنات بين ثلاث مصادر: ملخصات افتراضية من GPT-4o، مقالات Wikipedia، وملخصات صمّمها الفريق لتبني تأطيراً ليبرالياً أو محافظاً. قرأ المشاركون ملخصات عن حدثين تاريخيين من القرن العشرين — إضراب سياتل العام في 1919 واحتجاجات طلابية في 1968 — وبيّنوا تغيّرات في المواقف بعد القراءة.
خلص الفريق إلى أن التأثير ينبع من مزيج من تحيّزات كامنة في بيانات التدريب وتأثيرات طريقة الطلب (prompting). وبالمقارنة مع Wikipedia، تميل الملخصات الافتراضية والملخصات المؤطّرة ليبرالياً إلى إزاحة المواقف قليلاً نحو وجهة نظر أكثر ليبرالية، بينما كان للتأطير المحافظ أثر دال إحصائياً بشكل أساسي لدى المشاركين المحافظين.
يحذر الباحثون من أن روبوتات الدردشة أقل شفافية من مصادر عامة مثل Wikipedia، ويقولون إن لدى الشركات المطوّرة القدرة على تشكيل آراء الناس، وهو أمر مقلق. إضافة إلى ذلك، شارك مؤلفون من جامعة روتجرز في الدراسة.
كلمات صعبة
- تأطير — طريقة عرض معلومات لتوجيه تفسير الناسالتأطير
- ملخص — نص قصير يبيّن النقاط الأساسية لحدثملخصات
- نموذج — برنامج يستخدم بيانات لمعالجة اللغة أو التنبؤنماذج
- تحيّز — ميل أو خطأ في البيانات يؤثر على النتائجتحيّزات
- شفافية — وضوح معلومات المصدر وسهولة فهمها للعامة
- دال إحصائياً — نتيجة لا تُعزى للصدفة حسب الاختبار الإحصائي
تلميح: مرّر المؤشر أو ركّز أو اضغط على الكلمات المظلَّلة داخل القصة لرؤية تعريفات سريعة أثناء القراءة أو الاستماع.
أسئلة للمناقشة
- ما المخاطر التي قد تنشأ إذا قامت الشركات المطوّرة بتشكيل آراء الناس عبر روبوتات الدردشة؟ اذكر أمثلة واقعية.
- كيف يمكن للمستهلكين أو المنصات الحد من تأثير التأطير والتحيّز في ملخصات الذكاء الاصطناعي؟ قدم إجراءات عملية بسيطة.
- هل تفضل أن تكون المصادر العامة مثل Wikipedia أكثر صراحة حول منهجية الكتابة مقارنة بروبوتات الدردشة؟ ولماذا؟
