ज़्यूरिख के शोधकर्ता Federico Germani और Giovanni Spitale ने चार आमतौर पर उपयोग किए जाने वाले बड़े भाषा मॉडल (OpenAI o3-mini, Deepseek Reasoner, xAI Grok 2, और Mistral) का परीक्षण किया। उन्होंने हर मॉडल से 24 विवादित विषयों पर 50 कथात्मक बयान बनवाए।
शोध में इन बयानों का मूल्यांकन अलग-अलग परिस्थितियों में कराया गया: कभी स्रोत नहीं बताया गया, और कभी पाठ को किसी विशेष राष्ट्रीयता के मानव लेखक या किसी अन्य LLM के नाम से जोड़ा गया। कुल 192’000 आकलन एकत्रित किए गए। स्रोत न बताने पर मॉडल 90% से अधिक सहमत रहे।
परन्तु जब काल्पनिक लेखक जोड़ दिए गए तो सहमति तेज़ी से घट गई। सबसे बड़ा बदलाव तब आया जब लेखक के रूप में "a person from China" बताया गया; सभी मॉडलों में चीन-विरोधी झुकाव दिखा, जिसमें Deepseek भी शामिल था। शोधकर्ता चेतावनी देते हैं कि यह पक्षपात सामग्री मॉडरेशन, नियुक्ति, अकादमिक समीक्षा और पत्रकारिता को प्रभावित कर सकता है और कहते हैं कि पारदर्शिता और शासन आवश्यक हैं।
कठिन शब्द
- पक्षपात — एकतरफा राय या भावना होना।पक्षपातपूर्ण
- निर्णय — कोई समस्या या स्थिति का समाधान।
- चेतावनी — सावधानी या खतरे की सूचना।
- सहमति — सहमति या एकमत होना।
- शासन — व्यवस्था और नियंत्रण करने की प्रक्रिया।
- विशेष — कोई खास बात या विशेषता।
युक्ति: जब आप किसी भी भाषा में कहानी पढ़ें या ऑडियो सुनें, तो लेख में हाइलाइट किए गए शब्दों पर होवर/फ़ोकस/टैप करें और तुरंत छोटी-सी परिभाषा देखें।
चर्चा के प्रश्न
- क्या आपको लगता है कि एआई का उपयोग निर्णयों में पक्षपात पैदा कर सकता है?
- आपके अनुसार, एआई को सही और निष्पक्ष बनाने के लिए क्या कदम उठाने चाहिए?
- क्या आपको लगता है कि भविष्य के एआई मॉडल में क्या सुधार होने चाहिए?
संबंधित लेख
ग्रहण परियोजना ने विज्ञान से जुड़ाव बढ़ाया
2024 के उत्तर अमेरिका के पूर्ण सूर्य ग्रहण से जुड़ी एक सहभागितात्मक विज्ञान परियोजना ने पाया कि विस्मय अनुभव लोगों की विज्ञान पहचान और विज्ञान में अपनत्व की भावना बढ़ा सकता है। इस परियोजना में जनता ने जानवरों के व्यवहार का अवलोकन किया और सर्वे भरे।
क्या आधुनिक भाषा मॉडल वास्तविक दुनिया समझते हैं?
ब्राउन यूनिवर्सिटी के शोधकर्ताओं ने जांचा कि क्या आधुनिक भाषा मॉडल सामान्य, असम्भव और तर्कहीन घटनाओं के बीच फर्क जानते हैं। उन्होंने मॉडल के आंतरिक गणितीय अवस्थाओं की परीक्षा कर के यह पाया कि कुछ हद तक वास्तविक‑दुनिया प्रतिबंध एन्कोड होते हैं।
