ज़्यूरिख विश्वविद्यालय के शोध में यह दिखाया गया है कि बड़े भाषा मॉडल (LLM) एक ही पाठ का मूल्यांकन बदल देते हैं जब उन्हें पाठक या लेखक की पहचान बताई जाती है। Federico Germani और Giovanni Spitale ने OpenAI o3-mini, Deepseek Reasoner, xAI Grok 2 और Mistral पर परीक्षण किया। हर मॉडल ने 24 विवादित विषयों पर 50 कथात्मक बयान बनाए और कुल 192’000 आकलन एकत्र किए गए।
जब स्रोत छिपा था, तो मॉडलों के बीच सहमति सामान्यतः 90% से ऊपर रही और शोधकर्त्ताओं ने कहा कि मीडिया में बताए गए "AI राष्ट्रवाद" के खतरे का स्वरूप अतिरंजित दिखता है। परंतु लेखक पहचान जोड़ने पर सहमति तेज़ी से घट गई और कभी-कभी समाप्त भी हो गई। सबसे स्पष्ट परिवर्तन तब आया जब लेखक के रूप में "a person from China" बताया गया; सभी मॉडलों में चीन-विरोधी झुकाव देखा गया, जिसमें Deepseek भी शामिल था। खासकर भू-राजनीतिक विषयों में, जैसे ताइवान की संप्रभुता, Deepseek ने सहमति का स्तर 75% तक घटा दिया।
अध्ययन यह भी बताता है कि अधिकांश मॉडलों को मानव लेखकों पर AI लेखकों की तुलना में अधिक भरोसा था; उन्हें लगता है कि मशीन-जनित सामग्री पर एक अंतर्निहित अविश्वास मौजूद है। शोधकर्ता चेतावनी देते हैं कि यह छिपा पक्षपात वास्तविक दुनिया के अनुप्रयोगों में महत्वपूर्ण परिणाम दे सकता है और इसलिए पारदर्शिता तथा शासन आवश्यक हैं। वे सुझाव देते हैं कि LLM का प्रयोग तर्क में मदद करने वाले सहायक के रूप में किया जाए, निर्णायक के रूप में नहीं।
यह शोध Sciences Advances में प्रकाशित हुआ है और स्रोत University of Zurich है।
- प्रभावित क्षेत्र: सामग्री मॉडरेशन
- प्रभावित क्षेत्र: नियुक्ति प्रक्रियाएँ
- प्रभावित क्षेत्र: अकादमिक समीक्षा और पत्रकारिता
कठिन शब्द
- सहमति — एक से अधिक लोगों का एक राय होना
- पक्षपात — किसी समूह या विचार के पक्ष में असंतुलित रवैया
- पारदर्शिता — कार्यों और निर्णयों की स्पष्टता और खुलापन
- शासन — नियम और नियंत्रण की व्यवस्था
- भरोसा — किसी स्रोत या सूचना को सही मानने की भावना
- झुकाव — किसी दिशा या विचार की ओर रुझान
- मॉडल — किसी प्रणाली या नमूने का संगणकीय रूप
- छिपाना — दिखने या पता चलने से बचानाछिपा
युक्ति: जब आप किसी भी भाषा में कहानी पढ़ें या ऑडियो सुनें, तो लेख में हाइलाइट किए गए शब्दों पर होवर/फ़ोकस/टैप करें और तुरंत छोटी-सी परिभाषा देखें।
चर्चा के प्रश्न
- मॉडलों का लेखक पहचान से बदलना सामग्री मॉडरेशन और नियुक्ति प्रक्रियाओं पर कैसे असर डाल सकता है? अपने विचार स्पष्ट करें।
- पारदर्शिता और शासन से इस तरह के छिपे पक्षपात को कम करने में क्या तरीके मददगार हो सकते हैं? उदाहरण दें।
- LLM को निर्णायक नहीं बल्कि तर्क में मदद करने वाला सहायक रखने के क्या फायदे और नुकसान हो सकते हैं?
संबंधित लेख
लैटिन अमेरिका में कृत्रिम बुद्धिमत्ता से यौन और प्रजनन स्वास्थ्य पहुँचा
लैटिन अमेरिका के शोध समूह और गैर-सरकारी संगठन कृत्रिम बुद्धिमत्ता का उपयोग कर युवा और हाशिए पर रह रहे समूहों तक यौन और प्रजनन स्वास्थ्य जानकारी और सेवाएँ पहुँचाने की कोशिश कर रहे हैं। विशेषज्ञ बेहतर डेटा, विनियमन और समुदाय की भागीदारी की माँग करते हैं।
