शोध ने परखा कि क्या सामान्य चैटबॉट उत्तर, जिन्हें विशेष रूप से मनाने के लिए तैयार नहीं किया गया था, तब भी उपयोगकर्ताओं के सोच पर असर डालते हैं। शोधकर्ताओं का कहना है कि यह प्रभाव बड़े भाषा मॉडल (LLMs) के प्रशिक्षण के दौरान आए अंतर्निहित पूर्वाग्रहों और प्रेरित (prompting) पूर्वाग्रहों से आ सकता है।
अध्ययन में 1,912 प्रतिभागियों ने दो 20वीं सदी की घटनाओं—सिएटल जनरल स्ट्राइक (फ़रवरी 1919) और 1968 के थर्ड वर्ल्ड लिबरेशन फ्रंट प्रदर्शन—पर GPT-4o के डिफ़ॉल्ट सारांश, Wikipedia प्रविष्टियाँ, या उदार/रूढ़िवादी फ्रेमिंग वाले सारांश पढ़े। डिफ़ॉल्ट और उदार फ्रेमिंग वाले सारांशों ने Wikipedia की तुलना में उदार राय बढ़ाई, जबकि रूढ़िवादी फ्रेमिंग ने रूढ़िवादी राय बढ़ाई।
लेखक बताते हैं कि प्रभाव छोटे थे और केवल मामूली दिशा बदलने वाले थे। उन्होंने यह भी चेतावनी दी कि चैटबॉट विकास पारदर्शी नहीं है, इसलिए कंपनियों के पास लोगों की राय आकार देने की क्षमता हो सकती है।
कठिन शब्द
- पूर्वाग्रह — किसी विषय के लिए पहले से मौजूद एक झुकावपूर्वाग्रहों
- प्रेरित — किसे को कुछ करने के लिए प्रभावित करना
- फ्रेमिंग — किसी मामला या खबर को एक तरह से प्रस्तुत करना
- सारांश — लंबी जानकारी का छोटा और मुख्य रूपसारांशों
- परखा — किसी चीज़ की जाँच या परीक्षण करना
- पारदर्शी — साफ़ और खुला, जिसे छुपाया न गया हो
युक्ति: जब आप किसी भी भाषा में कहानी पढ़ें या ऑडियो सुनें, तो लेख में हाइलाइट किए गए शब्दों पर होवर/फ़ोकस/टैप करें और तुरंत छोटी-सी परिभाषा देखें।
चर्चा के प्रश्न
- क्या आपको लगता है कि चैटबॉट कंपनियों को अपनी विकास प्रक्रिया पारदर्शी बनानी चाहिए? क्यों?
- अगर किसी सारांश ने आपकी राय थोड़ी बदल दी, तो आप कैसे तय करेंगे कि वह सारांश भरोसेमंद है?
- क्या आपने कभी इंटरनेट पर मिली जानकारी की वजह से अपनी राय बदली है? छोटा सा उदाहरण दें।
