लेखक पहचान बदलती है LLM का मूल्यांकन ^{CEFR B2}

ज़्यूरिख विश्वविद्यालय के शोध में यह दिखाया गया है कि बड़े भाषा मॉडल (LLM) एक ही पाठ का मूल्यांकन बदल देते हैं जब उन्हें पाठक या लेखक की पहचान बताई जाती है। Federico Germani और Giovanni Spitale ने OpenAI o3-mini, Deepseek Reasoner, xAI Grok 2 और Mistral पर परीक्षण किया। हर मॉडल ने 24 विवादित विषयों पर 50 कथात्मक बयान बनाए और कुल 192’000 आकलन एकत्र किए गए।

जब स्रोत छिपा था, तो मॉडलों के बीच सहमति सामान्यतः 90% से ऊपर रही और शोधकर्त्ताओं ने कहा कि मीडिया में बताए गए "AI राष्ट्रवाद" के खतरे का स्वरूप अतिरंजित दिखता है। परंतु लेखक पहचान जोड़ने पर सहमति तेज़ी से घट गई और कभी-कभी समाप्त भी हो गई। सबसे स्पष्ट परिवर्तन तब आया जब लेखक के रूप में "a person from China" बताया गया; सभी मॉडलों में चीन-विरोधी झुकाव देखा गया, जिसमें Deepseek भी शामिल था। खासकर भू-राजनीतिक विषयों में, जैसे ताइवान की संप्रभुता, Deepseek ने सहमति का स्तर 75% तक घटा दिया।

अध्ययन यह भी बताता है कि अधिकांश मॉडलों को मानव लेखकों पर AI लेखकों की तुलना में अधिक भरोसा था; उन्हें लगता है कि मशीन-जनित सामग्री पर एक अंतर्निहित अविश्वास मौजूद है। शोधकर्ता चेतावनी देते हैं कि यह छिपा पक्षपात वास्तविक दुनिया के अनुप्रयोगों में महत्वपूर्ण परिणाम दे सकता है और इसलिए पारदर्शिता तथा शासन आवश्यक हैं। वे सुझाव देते हैं कि LLM का प्रयोग तर्क में मदद करने वाले सहायक के रूप में किया जाए, निर्णायक के रूप में नहीं।

यह शोध Sciences Advances में प्रकाशित हुआ है और स्रोत University of Zurich है।

• प्रभावित क्षेत्र: सामग्री मॉडरेशन
• प्रभावित क्षेत्र: नियुक्ति प्रक्रियाएँ
• प्रभावित क्षेत्र: अकादमिक समीक्षा और पत्रकारिता