University of Texas at Austin के शोधकर्ता John-Patrick Akinyemi और Hüseyin Tanriverdi ने AI पूर्वाग्रह के स्रोतों की विस्तृत समीक्षा की। उन्होंने उन 363 एल्गोरिद्मों का विश्लेषण किया जिन्हें दूसरों ने पक्षपाती माना था; ये एल्गोरिद्म "AI Algorithmic and Automation Incidents and Controversies" नामक रिपॉज़िटरी से लिए गए थे। शोधकर्ताओं ने हर समस्या वाले एल्गोरिद्म की तुलना ऐसे समान एल्गोरिद्म से की जो पक्षपाती नहीं दिखे, और साथ ही उन संगठनों की भी परीक्षा की जिन्होंने इन प्रणालियों को बनाया और लागू किया।
अध्ययन तीन आपस में जुड़े कारक पहचानता है जिनसे अनुचित परिणामों का जोखिम बढ़ता है:
- ग्राउंड ट्रुथ की कमी: कई मामलों में कोई स्पष्ट या अच्छी तरह स्थापित माप नहीं है, जिससे निर्णय वैधता पर सवाल उठते हैं।
- वास्तविक दुनिया की जटिलता का साधरणीकरण: मॉडल अक्सर केवल उपलब्ध डेटा वाले चर इस्तेमाल करते हैं, जिससे वे वास्तविक परिस्थिति का सही प्रतिनिधि नहीं रहते — उदाहरण के तौर पर Medicaid स्वचालन ने घर पर मिलने वाली देखभाल घटा दी।
- हितधारकों की कमी: जब प्रणालियाँ विविध हितधारकों को शामिल किए बिना डिजाइन होती हैं, तो विरोधी लक्ष्यों और आवश्यकताओं का पता नहीं चलता और पक्षपात बढ़ सकता है।
शोध निष्कर्ष में कहता है कि AI पक्षपात कम करने के लिए केवल सटीकता बढ़ाना काफी नहीं है; डेवलपर्स को ब्लैक बॉक्स खोलना होगा ताकि वास्तविक दुनिया की जटिलता, विभिन्न इनपुट और स्पष्ट ground truths को ध्यान में रखा जा सके। लेख MIS Quarterly में प्रकाशित हुआ और स्रोत UT Austin है।
कठिन शब्द
- पूर्वाग्रह — किसी समूह के प्रति पक्ष लेने या भेदभाव दिखानाAI पूर्वाग्रह
- रिपॉज़िटरी — सूचना या डेटा संग्रहीत करने वाला संग्रह
- ग्राउंड ट्रुथ — वास्तविकता का प्रमाणिक या मान्य मापground truths
- जटिलता — कई हिस्सों वाली कठिन स्थिति
- हितधारक — निर्णय या प्रणाली से जुड़ा व्यक्ति या समूहहितधारकों
- साधरणीकरण — किसी जटिल चीज को सरल बनाना
- ब्लैक बॉक्स — ऐसी प्रणाली जिसे अंदर से समझना मुश्किल हो
- पक्षपात — किसी के प्रति अन्यायपूर्ण या असमान रवैया
युक्ति: जब आप किसी भी भाषा में कहानी पढ़ें या ऑडियो सुनें, तो लेख में हाइलाइट किए गए शब्दों पर होवर/फ़ोकस/टैप करें और तुरंत छोटी-सी परिभाषा देखें।
चर्चा के प्रश्न
- यदि कोई सिस्टम विविध हितधारकों को शामिल नहीं करता, तो उसके पक्षपात के जोखिम क्यों बढ़ सकते हैं? उदाहरण दें।
- जब स्पष्ट ग्राउंड ट्रुथ मौजूद न हो, तब निर्णय वैधता कैसे प्रभावित होती है और डेवलपर्स क्या कदम उठा सकते हैं?
- ब्लैक बॉक्स खोलने का क्या मतलब है और इससे क्या फायदे व चुनौतियाँ हो सकती हैं?
