एआई मॉडल लेखक को जानने पर टेक्स्ट को अलग तरह से आंकते हैं ^{CEFR B1}

हालिया अनुसंधान से पता चला है कि बड़े भाषा मॉडल (LLMs) लेखक की पहचान से प्रभावित होते हैं। अध्ययन में चार लोकप्रिय LLMs का उपयोग किया गया और विभिन्न विषयों पर अपने टेक्स्ट का मूल्यांकन करने के लिए कहा गया। जब कोई स्रोत नहीं था, तो सभी मॉडल में 90% से अधिक सहमति थी। लेकिन जब बताया गया कि लेखक कौन है, तो पक्षपात साफ दिखाई दिया।

विशेष रूप से, जब लेखक को चीन से बताया गया, तो LLMs ने नकारात्मक निर्णय देने में कमी की। यह एक गंभीर चिंता का विषय है, खासकर जब एआई का उपयोग जनसामान्य को प्रभावित करने वाले फैसलों में किया जाता है। शोधकर्ताओं ने चेतावनी दी कि एआई बिना स्पष्टता या शासन के काम नहीं कर सकता।

वे तर्क करते हैं कि चेतना के बिना एआई पक्षपातपूर्ण मूड को बढ़ा सकता है। भविष्य में, एआई मॉडल को सही और निष्पक्ष परख करने के लिए नियम बनाने की जरूरत है। ऐसा नहीं करने पर, निर्णय में गंभीर समस्याएं आ सकती हैं।