नए अध्ययन से पता चला कि सामान्य AI चैटबॉट प्रतिक्रियाएँ, जो स्पष्ट रूप से किसी को मनाने के लिए तैयार नहीं की गई थीं, फिर भी उपयोगकर्ताओं के सामाजिक और राजनीतिक मतों को प्रभावित कर सकती हैं। शोध टीम ने कहा कि यह प्रभाव हिस्से में बड़े भाषा मॉडल (LLMs) के प्रशिक्षण में मौजूद अंतर्निहित पूर्वाग्रहों और कुछ हद तक प्रेरित (prompting) पूर्वाग्रहों से जुड़ा हो सकता है।
अध्ययन PNAS Nexus में प्रकाशित हुआ है और इसके वरिष्ठ लेखक डैनियल कॅरेल हैं जबकि प्रमुख लेखक मैथ्यू शु हैं। शोध में 1,912 प्रतिभागियों को दो 20वीं सदी की घटनाओं—सिएटल जनरल स्ट्राइक (फ़रवरी 1919, पाँच दिन का काम बंद) और 1968 का थर्ड वर्ल्ड लिबरेशन फ्रंट छात्र प्रदर्शन—पर सामग्री दी गई। प्रतिभागियों ने या तो GPT-4o के डिफ़ॉल्ट सारांश, संबंधित Wikipedia प्रविष्टियाँ, या टीम द्वारा उदार या रूढ़िवादी फ्रेमिंग के लिए प्रेरित किए गए सारांश पढ़े।
परिणामों में देखा गया कि डिफ़ॉल्ट AI सारांश और उदार-फ्रेम वाले सारांशों ने Wikipedia की तुलना में प्रतिभागियों में अधिक उदार मत उत्पन्न किए। रूढ़िवादी फ्रेमिंग ने Wikipedia की तुलना में रूढ़िवादी राय बढ़ाई, पर यह प्रभाव मुख्यतः उन प्रतिभागियों में सांख्यिकीय रूप से महत्वपूर्ण था जिन्होंने स्वयं को रूढ़िवादी बताया। कॅरेल ने बताया कि प्रभाव सामान्यतः छोटे थे और मध्यम रुख से थोड़े उदार रुख की ओर हल्की गति दिखाती थी। शोधकर्ता यह भी चेतावनी देते हैं कि Wikipedia की पारदर्शी संपादन प्रक्रिया के विपरीत चैटबॉट विकास अधिक अस्पष्ट है, और मॉडल बनाने वाली कंपनियां लोगों की राय प्रभावित करने की क्षमता रख सकती हैं।
- प्रकाशन: PNAS Nexus
- मुख्य लेखक: मैथ्यू शु
- वरिष्ठ लेखक: डैनियल कॅरेल
कठिन शब्द
- पूर्वाग्रह — किसी विषय या समूह के प्रति पक्षपात या झुकावपूर्वाग्रहों
- भाषा मॉडल — कम्प्यूटरी मॉडल जो भाषा समझता और बनाता हैबड़े भाषा मॉडल (LLMs)
- प्रेरित करना — किसे निर्देश देकर प्रतिक्रिया दिलवानाप्रेरित (prompting)
- सारांश — लंबे पाठ या जानकारी का छोटा रूप
- फ्रेमिंग — किसी खबर या विषय को पेश करने की खास रूपरेखा
- पारदर्शी — जिसमें प्रक्रिया साफ और खुली दिखे
- सांख्यिकीय — आँकड़ों के आधार पर पाया गया असर
युक्ति: जब आप किसी भी भाषा में कहानी पढ़ें या ऑडियो सुनें, तो लेख में हाइलाइट किए गए शब्दों पर होवर/फ़ोकस/टैप करें और तुरंत छोटी-सी परिभाषा देखें।
चर्चा के प्रश्न
- यदि चैटबॉट कंपनियां लोगों की राय प्रभावित कर सकती हैं, तो इससे लोकतंत्र और सार्वजनिक बहस पर क्या असर पड़ सकता है? अपने विचार बताइए।
- Wikipedia की पारदर्शिता की तुलना में चैटबॉट विकास की अस्पष्टता को कम करने के लिए क्या कदम उठाए जा सकते हैं?
- आप किस स्रोत को सबसे भरोसेमंद मानेंगे: AI सारांश, Wikipedia, या मूल स्रोत? अपना कारण स्पष्ट कीजिए।
संबंधित लेख
पंक्षियों के झुंड से प्रेरित तरीका घटाए एआई त्रुटियाँ
शोधकर्ताओं ने पंक्षियों के झुंड के व्यवहार से प्रेरित एक पूर्व-प्रसंस्करण तरीका बनाया है जो लंबी दस्तावेज़-संक्षेपण में एआई की गलत जानकारी (hallucinations) घटाने का लक्ष्य रखता है। इस दृष्टिकोण से सारों की तथ्यात्मक सटीकता बढ़ी है।
