वॉशिंगटन विश्वविद्यालय (University of Washington) की टीम ने हाल के वर्षों में आने वाले एजेंट-आधारित वेब ब्राउज़र पर विस्तृत अध्ययन किया और पाया कि कुछ सबसे शक्तिशाली ब्राउज़र गंभीर साइबर सुरक्षा जोखिम पैदा कर सकते हैं। शोध में सात लोकप्रिय एजेंट-आधारित ब्राउज़र की जाँच के दौरान यह मिला कि चार ब्राउज़र में same-origin policy नामक मूलभूत सुरक्षा नियम को बायपास करने के तरीके मौजूद थे। 1995 में पेश की गई यह नीति अलग-अलग साइटों को एक ही ब्राउज़र में एक-दूसरे के डेटा तक पहुँचने से रोकती है। प्रोफेसर फ्रांज़िस्का रोएज़नर ने कहा कि यह नीति जानकारी की सुरक्षा के लिए मूलभूत है।
टीम ने ChatGPT Atlas पर एक प्रूफ-ऑफ-कॉन्सेप्ट साइबर हमला चलाया जिसमें एक साइट ने दूसरी को एम्बेड किया और एम्बेडेड कंटेंट से संवेदनशील जानकारी, जैसे ईमेल डेटा, विज्ञापन के माध्यम से चुरा ली। शोध में Chrome with Gemini, Claude for Chrome और Perplexity Comet में भी समान कमजोरी पाई गई। सामान्यतः जिन ब्राउज़रों ने एजेंटों को कम अनुमतियाँ दीं वे अधिक सुरक्षित रहे। सह-सीनियर लेखक डेविड कोहल्ब्रेनर ने टिप्पणी की: "ब्राउज़र एजेंट जनता के लिए तैयार नहीं हैं।"
अध्ययन दो प्रमुख तकनीकी जोखिमों का वर्णन करता है। पहला प्रॉम्प्ट इंजेक्शन है, जहां दुर्भावनापूर्ण पृष्ठ छिपे निर्देशों से एजेंट को धोखा दे कर डेटा प्रकट या भेजवा सकता है; उदाहरण में छिपे निर्देश से एजेंट एम्बेड कंटेंट का सार लिखवाकर उसे दुर्भावनापूर्ण फॉर्म में सबमिट करा देता है। दूसरा जोखिम मेमोरी पॉइज़निंग है: एजेंट जो सीखते हैं उसे स्टोर करते हैं, और कुछ एजेंट मेमोरी को संशोधित या संकुचित करते समय अलग-अलग स्रोतों की जानकारी मिला सकते हैं।
शोधकर्ताओं ने अपनी खोजें संबंधित कंपनियों के साथ साझा कीं। Anthropic और Firefox ने जवाब नहीं दिया, जबकि Perplexity और OpenAI ने रिपोर्ट को ठुकरा दिया। टीम ने Google, Microsoft और Brave के साथ संवाद भी रखा। अध्ययन Agents in the Wild कार्यशाला में रियो डी जनेरियो में प्रस्तुत किया गया और इसमें आंशिक वित्तपोषण Microsoft के उपहारों से हुआ। स्रोत: University of Washington
कठिन शब्द
- एजेंट-आधारित — ऐसे ब्राउज़र जो स्वचालित एजेंट इस्तेमाल करते हैं
- बायपास — किसी सुरक्षा नियम को चकमा देकर बच जाना
- मूलभूत — किसी चीज़ का सबसे जरूरी या आधारभूत हिस्सा
- एम्बेड करना — एक साइट के अंदर दूसरी साइट को जोड़ना या दिखानाएम्बेड किया, एम्बेडेड
- प्रूफ-ऑफ-कॉन्सेप्ट — किसी विचार का काम करने योग्य दिखाने वाला परीक्षण
- प्रॉम्प्ट इंजेक्शन — छिपे निर्देश देकर एजेंट से गलत काम कराना
- मेमोरी पॉइज़निंग — एजेंट की संग्रहीत जानकारी में मिलावट होना
युक्ति: जब आप किसी भी भाषा में कहानी पढ़ें या ऑडियो सुनें, तो लेख में हाइलाइट किए गए शब्दों पर होवर/फ़ोकस/टैप करें और तुरंत छोटी-सी परिभाषा देखें।
चर्चा के प्रश्न
- इन निष्कर्षों को देखकर सामान्य उपयोगकर्ता किस तरह के जोखिमों के प्रति सतर्क रहे? उदाहरण दें।
- लेख कहता है कि जिन ब्राउज़रों ने एजेंटों को कम अनुमतियाँ दीं वे अधिक सुरक्षित रहे। आप क्या कदम सुझाएँगे ताकि निर्माता सुरक्षा बढ़ा सकें?
- प्रॉम्प्ट इंजेक्शन और मेमोरी पॉइज़निंग के संभावित असर किस तरह के हो सकते हैं, और वे उपयोगकर्ताओं के डेटा को कैसे प्रभावित कर सकते हैं?
