शोधकर्ताओं ने एक ऐसा वेब एक्सटेंशन बनाया जो एक बड़े भाषा मॉडल के साथ जुड़कर X फीड पर दिखने वाली सामग्री की रैंकिंग बदलता है, बिना किसी पोस्ट को हटाए और बिना प्लेटफ़ॉर्म के प्रत्यक्ष सहयोग के। यह उपकरण विरोधी-लोकतांत्रिक रुख, हिंसा का आह्वान और राजनीतिक विरोधियों को जेल में डालने जैसी बातों की पहचान कर उन्हें फीड में निचले या ऊपरी स्थान पर रखता है। इस काम का प्रकाशन Science में हुआ और शोधशील लोगों के अनुसार यह दर्शाता है कि उपयोगकर्ता भविष्य में एल्गोरिथ्म पर अधिक नियंत्रण रख सकते हैं।
प्रयोगों में लगभग 1,200 स्वयंसेवकों ने 2024 के चुनाव के दौरान 10 दिनों तक यह उपकरण इस्तेमाल किया। अलग सात-दिन के परीक्षणों में कुछ समूहों की फीड में पोस्ट नीचे या ऊपर रैंक हुई, जबकि नियंत्रण समूह में कोई क्रम परिवर्तन नहीं हुआ। प्रतिभागियों का पहले और बाद में 1 से 100 के पैमाने पर सर्वे किया गया; जिन लोगों ने नकारात्मक सामग्री को नीचे देखा, उनकी औसत रुझान दो अंक बेहतर हुई, जो शोधकर्ताओं के अनुसार संयुक्त राज्य की जनसंख्या में अनुमानित तीन वर्षों के रुझान के समान है।
सह-नेता लेखक Martin Saveski (University of Washington Information School) और Tiziano Piccardi (Johns Hopkins University) ने कहा कि उपकरण बाहरी शोधकर्ताओं को एल्गोरिथ्म डिजाइन का अध्ययन करने की क्षमता देता है। Piccardi ने बताया कि प्रतिभागियों ने लक्षित सामग्री कम दिखने पर "ज़्यादा गर्मजोशी" और अधिक दिखने पर "ज़्यादा ठंडापन" महसूस किया।
परियोजना ने सूचना विज्ञान, कंप्यूटर विज्ञान, मनोविज्ञान और संचार को जोड़ा। शोधकर्ताओं ने हानिकारक सामग्री की श्रेणियाँ परिभाषित करने के लिए पहले के समाजशास्त्र कार्य का इस्तेमाल किया, जिनमें शामिल हैं:
- द्वि-हित सहयोग को अस्वीकार करना
- दूसरी पार्टी को लाभ पहुंचाने वाले तथ्यों पर संदेह करना
- पसंदीदा पार्टी के लिए लोकतांत्रिक सिद्धांत त्यागने की इच्छा
टीम ने कोड जारी कर दिया है ताकि अन्य स्वतंत्र रैंकिंग सिस्टम बनाए जा सकें। इस काम को National Science Foundation, Swiss National Science Foundation और Stanford Institute for Human-Centered Artificial Intelligence के Hoffman-Yee अनुदान से समर्थन मिला, और अतिरिक्त सह-लेखक Northeastern और Stanford से हैं।
कठिन शब्द
- वेब एक्सटेंशन — ब्राउज़र में जोड़ने वाला सॉफ्टवेयर मॉड्यूल
- भाषा मॉडल — कंप्यूटर का ऐसा सिस्टम जो भाषा समझे और बनाएबड़े भाषा मॉडल
- रैंकिंग — सूची में किसी आइटम की क्रमिक या स्थानिक स्थितिरैंक
- विरोधी-लोकतांत्रिक — लोकतंत्र के सिद्धांतों के खिलाफ खड़ा होने वाला रुख
- हानिकारक — जिससे नुकसान या बुरा असर हो
- सह-नेता — किसी शोध या समूह का साथ में नेतृत्व करने वाला व्यक्ति
युक्ति: जब आप किसी भी भाषा में कहानी पढ़ें या ऑडियो सुनें, तो लेख में हाइलाइट किए गए शब्दों पर होवर/फ़ोकस/टैप करें और तुरंत छोटी-सी परिभाषा देखें।
चर्चा के प्रश्न
- इस तरह का रैंकिंग नियंत्रण सोशल मीडिया पर जानकारी और राय पर क्या असर डाल सकता है? अपने विचार उदाहरण के साथ बताइए।
- स्वतंत्र शोधकर्ताओं के लिए एल्गोरिथ्म डिजाइन का अध्ययन करने की क्षमता क्यों महत्वपूर्ण हो सकती है? संक्षेप में कारण बताइए।
- इस परियोजना के कोड सार्वजनिक करने के फायदे और संभावित जोखिम क्या हो सकते हैं? एक-दो बिंदु लिखिए।
