अध्ययन: AI चैटबॉट लोगों की राजनीतिक राय बदल सकते हैं ^{CEFR B2}

नए अध्ययन से पता चला कि सामान्य AI चैटबॉट प्रतिक्रियाएँ, जो स्पष्ट रूप से किसी को मनाने के लिए तैयार नहीं की गई थीं, फिर भी उपयोगकर्ताओं के सामाजिक और राजनीतिक मतों को प्रभावित कर सकती हैं। शोध टीम ने कहा कि यह प्रभाव हिस्से में बड़े भाषा मॉडल (LLMs) के प्रशिक्षण में मौजूद अंतर्निहित पूर्वाग्रहों और कुछ हद तक प्रेरित (prompting) पूर्वाग्रहों से जुड़ा हो सकता है।

अध्ययन PNAS Nexus में प्रकाशित हुआ है और इसके वरिष्ठ लेखक डैनियल कॅरेल हैं जबकि प्रमुख लेखक मैथ्यू शु हैं। शोध में 1,912 प्रतिभागियों को दो 20वीं सदी की घटनाओं—सिएटल जनरल स्ट्राइक (फ़रवरी 1919, पाँच दिन का काम बंद) और 1968 का थर्ड वर्ल्ड लिबरेशन फ्रंट छात्र प्रदर्शन—पर सामग्री दी गई। प्रतिभागियों ने या तो GPT-4o के डिफ़ॉल्ट सारांश, संबंधित Wikipedia प्रविष्टियाँ, या टीम द्वारा उदार या रूढ़िवादी फ्रेमिंग के लिए प्रेरित किए गए सारांश पढ़े।

परिणामों में देखा गया कि डिफ़ॉल्ट AI सारांश और उदार-फ्रेम वाले सारांशों ने Wikipedia की तुलना में प्रतिभागियों में अधिक उदार मत उत्पन्न किए। रूढ़िवादी फ्रेमिंग ने Wikipedia की तुलना में रूढ़िवादी राय बढ़ाई, पर यह प्रभाव मुख्यतः उन प्रतिभागियों में सांख्यिकीय रूप से महत्वपूर्ण था जिन्होंने स्वयं को रूढ़िवादी बताया। कॅरेल ने बताया कि प्रभाव सामान्यतः छोटे थे और मध्यम रुख से थोड़े उदार रुख की ओर हल्की गति दिखाती थी। शोधकर्ता यह भी चेतावनी देते हैं कि Wikipedia की पारदर्शी संपादन प्रक्रिया के विपरीत चैटबॉट विकास अधिक अस्पष्ट है, और मॉडल बनाने वाली कंपनियां लोगों की राय प्रभावित करने की क्षमता रख सकती हैं।

• प्रकाशन: PNAS Nexus
• मुख्य लेखक: मैथ्यू शु
• वरिष्ठ लेखक: डैनियल कॅरेल