ورقة بحثية قدمها طالب دكتوراه في مؤتمر CHI في أبريل درست كيف يؤثر كشف تشخيص التوحد على نصائح نماذج اللغة الكبيرة في مسائل اجتماعية يومية. قاد العمل مختبر أستاذة مساعدة في Virginia Tech، وحدّد الفريق 12 صورة نمطية واستخدم مئات سيناريوهات قرار لاختبار استجابة النماذج.
اختبر الباحثون ستة نماذج وليست نتائجها متشابهة: شملت النماذج GPT-4 وClaude وLlama وGemini وDeepSeek. ولّد الفريق 345,000 رد على آلاف مطالبات من نوع "هل أفعل A أم B؟"، وقيّم التغيرات عندما صرح المستخدمون بصفات نمطية صريحة أو عندما اكتفوا بالقول إنهم متوحدون.
أظهرت النتائج أن الكشف عن التوحد دفع النماذج إلى توصيات أكثر تحفّظاً، بحيث أوصى أحد النماذج برفض دعوة اجتماعية في نحو 75% من الحالات بعد الكشف مقابل نحو 15% بدون كشف، ونموذج آخر أوصى بتجنب الرومانسية بنحو 70% مقابل نحو 50%. كما أثّرت 11 من أصل 12 علامة نمطية بشكل كبير عبر أربعة أنظمة على الأقل.
أجرى الفريق مقابلات مع 11 مستخدماً متوحداً، فاعتبر بعضهم الردود متعالية بينما وجدها آخرون مريحة. لخّصت الباحثة التوتر قائلة إن "انحياز مستخدم قد يكون تخصيصاً لمستخدم آخر" ووصف الفريق ذلك بـ"مفارقة الأمان والفرصة". حذّر الباحث المسؤول من أن الأنظمة قد تبدو موثوقة لكنها تخفي تحيّزات منهجية، ودعا إلى مزيد من الشفافية وإمكانيات تحكّم للمستخدمين في كيفية تأثير معلومات الهوية على الإجابات. المصدر: Virginia Tech.
كلمات صعبة
- نموذج — برنامج أو نظام للذكاء الاصطناعي يعطي إجاباتالنماذج, نماذج
- كشف — إعلان أو إفصاح عن معلومة شخصية
- توحد — حالة عصبية تؤثر في التواصل والسلوكالتوحد
- متوحد — شخص يعاني من صفات التوحدمتوحداً, متوحدون
- استجابة — رد فعل النظام على سؤال أو موقف
- تحفّظ — ميل إلى اختيار خيارات أكثر حذراًتحفّظاً
- تحيّز — اتجاه أو حكم غير محايد ضد مجموعةتحيّزات
- شفافية — وضوح المعلومات وإظهار طريقة العملالشفافية
تلميح: مرّر المؤشر أو ركّز أو اضغط على الكلمات المظلَّلة داخل القصة لرؤية تعريفات سريعة أثناء القراءة أو الاستماع.
أسئلة للمناقشة
- كيف تعتقد أن إعلان شخص عن توحده يمكن أن يؤثر على ثقته بالنماذج وفيما إذا كانت مريحة أم متعالية؟
- ما الفوائد والمخاطر المحتملة من زيادة الشفافية وإعطاء المستخدمين تحكّماً في كيفية استخدام معلومات هويتهم؟
- ما خطوات عملية يمكن أن يتخذها مطورو النماذج للتقليل من التحيّزات المنهجية التي تحذر منها الدراسة؟
قصص ذات صلة
الذكاء الاصطناعي ومعلومات الصحة الجنسية في أمريكا اللاتينية
تستخدم مجموعات بحثية ومنظمات غير حكومية الذكاء الاصطناعي لنشر معلومات عن الصحة الجنسية والإنجابية والوصول إلى الشباب والفئات المهمشة. تبرز مشاريع في بيرو وأرجنتين منصات مثل TeleNanu وNOA وتواجه تحديات تتعلق بالتحيّز والبيانات والتنظيم.
