बड़े भाषा मॉडल में सुरक्षा-संशोधन ^{CEFR A2}

North Carolina State University के शोधकर्ताओं ने बड़े भाषा मॉडल में सुरक्षा-संशोधन की जांच की। वे यह देखना चाहते थे कि सुरक्षा सुधार से मॉडल की योग्यता घटती है या नहीं।

उन्होंने पाया कि कुछ सुरक्षा जाँच सतही होती हैं और उपयोगकर्ता उन्हें बायपास कर सकते हैं। उदाहरण में उन्होंने दिखाया कि कभी-कभी अनुरोध के कारण मॉडल अलग प्रतिक्रिया दे देता है। टीम ने नए प्रशिक्षण तरीके पर काम किया ताकि असुरक्षित उत्तर कम हों और मॉडल अपना प्रदर्शन बनाए रखे।