#कृत्रिम बुद्धिमत्ता26
एजेंट-आधारित ब्राउज़र और सुरक्षा खतरे
वॉशिंगटन विश्वविद्यालय के शोध में पाया गया कि कुछ एजेंट-आधारित वेब ब्राउज़र सुरक्षा नियमों को बायपास कर सकते हैं। अध्ययन में प्रूफ-ऑफ-कॉन्सेप्ट हमले और दो मुख्य तकनीकी जोखिम बताए गए।
फोटो: Zoshua Colah, Unsplash
क्या आधुनिक भाषा मॉडल वास्तविक दुनिया समझते हैं?
ब्राउन यूनिवर्सिटी के शोधकर्ताओं ने जांचा कि क्या आधुनिक भाषा मॉडल सामान्य, असम्भव और तर्कहीन घटनाओं के बीच फर्क जानते हैं। उन्होंने मॉडल के आंतरिक गणितीय अवस्थाओं की परीक्षा कर के यह पाया कि कुछ हद तक वास्तविक‑दुनिया प्रतिबंध एन्कोड होते हैं।
मस्तिष्क शब्दों की बजाय व्याकरणिक समूहों की भविष्यवाणी करता है
Nature Neuroscience में प्रकाशित नए शोध के अनुसार मानव मस्तिष्क अगला शब्द अकेले नहीं देखता, बल्कि व्याकरणिक वाक्यांशों (constituents) के आधार पर भविष्यवाणियाँ करता है। यह खोज बड़े भाषा मॉडलों के काम और मस्तिष्क प्रक्रियाओं के बीच फर्क दिखाती है।
पंक्षियों के झुंड से प्रेरित तरीका घटाए एआई त्रुटियाँ
शोधकर्ताओं ने पंक्षियों के झुंड के व्यवहार से प्रेरित एक पूर्व-प्रसंस्करण तरीका बनाया है जो लंबी दस्तावेज़-संक्षेपण में एआई की गलत जानकारी (hallucinations) घटाने का लक्ष्य रखता है। इस दृष्टिकोण से सारों की तथ्यात्मक सटीकता बढ़ी है।
बड़े भाषा मॉडल में सुरक्षा-संशोधन
North Carolina State University के शोधकर्ताओं ने बड़े भाषा मॉडल (LLMs) में सुरक्षा-संशोधन कैसे काम करता है इसका अध्ययन किया। उन्होंने मॉडल में सुरक्षा-न्यूरॉन्स की पहचान कर फाइन‑ट्यूनिंग के समय उन्हें स्थिर रखकर सुरक्षित व्यवहार बनाए रखने के तरीके दिखाए।