लैटिन अमेरिका के कई समूह स्थानीय और खुले AI टूल बना रहे हैं ताकि लिंग असमानता और घरेलू तथा सामुदायिक हिंसा को मापा और कम किया जा सके। एक्टिविस्ट और शोधकर्ता बताते हैं कि कई बड़ी तकनीकी कंपनियों के एल्गोरिदम क्षेत्रीय वास्तविकता को नहीं समझते और उनमें पक्षपातजनक धारणाएँ होती हैं। इसलिए क्षेत्रीय पहल संवेदनशील जानकारी की सुरक्षा करते हुए सरकारों और नागरिक समाज को भरोसेमंद साक्ष्य देने पर जोर दे रही हैं।
अरिज़ेंटीना में इवाना फेल्डफेबर की DataGénero टीम ने AymurAI नामक ओपन-सोर्स प्रोग्राम बनाया। यह टूल अदालत के केस दस्तावेजों में लिंग आधारित हिंसा से जुड़े किस्से और जानकारी इकट्ठा करता है, बिना उनका अर्थ निकाले, और लोकल सर्वरों पर स्थापित रहता है। AymurAI Chat GPT के उदय से पहले बनाया गया था और 2021 के बाद से अर्जेंटीना, चिली और कोस्टा रिका की अदालतों में उपयोग हो रहा है; इसमें 10,000 से अधिक अदालत के निर्णय शामिल हैं।
AymurAI को International Development Research Centre (IDRC) और Patrick McGovern Foundation से वित्तीय मदद मिली है। टीम एक ऑडियो-से-टेक्स्ट फ़ंक्शन जोड़ने की योजना बना रही है, ताकि मान्य किए जाने पर गवाहियों को संरक्षित किया जा सके और पीड़ितों को बार-बार दुखद घटनाएँ बतानी न पड़ें।
अन्य पहलें भी लोकल मॉडल और डेटा पर जोर देती हैं। Derechos Digitales की जमिला वेंटुरिनी कहती हैं कि कई AI सिस्टम क्षेत्र से दूर बने हैं और वे लिंग, जाति, उम्र और क्षमताओं से जुड़े स्थानीय माँगों से मेल नहीं खाते। Fundar के डैनियल यांकेलेविच का तर्क है कि व्यवहार संस्कृति के अनुसार बदलता है और भविष्यवाणी करने वाले सिस्टमों को निर्यातित पक्षपात से बचाने के लिए स्थानीय डेटा पर प्रशिक्षित होना चाहिए।
- आगे के सामान्य कदमों में प्रशिक्षण डेटा सुधारना शामिल है।
- ऑडियो ट्रांसक्रिप्शन जोड़ना योजनाओं में है।
- सुरक्षा ढांचे मजबूत करना और सार्वजनिक नीतियाँ बढ़ाना अपेक्षित है।
कठिन शब्द
- एल्गोरिदम — डेटा से निर्णय या भविष्यवाणी करने वाला नियम
- पक्षपातजनक — किसी समूह के खिलाफ असमान या नाइंसाफी रवैया
- संवेदनशील — नाज़ुक जानकारी जो सावधानी से संभालनी चाहिए
- लोकल — किसी खास क्षेत्र या इलाके से जुड़ा हुआ
- साक्ष्य — किसी दावे का समर्थन करने वाली जानकारी या प्रमाण
- ट्रांसक्रिप्शन — आवाज़ को लिखित रूप में बदलने की प्रक्रिया
- ओपन-सोर्स — खुला सॉफ़्टवेयर जिसका स्रोत कोड सार्वजनिक होता है
युक्ति: जब आप किसी भी भाषा में कहानी पढ़ें या ऑडियो सुनें, तो लेख में हाइलाइट किए गए शब्दों पर होवर/फ़ोकस/टैप करें और तुरंत छोटी-सी परिभाषा देखें।
चर्चा के प्रश्न
- लोकल मॉडल और स्थानीय डेटा साक्ष्य जुटाने और नीतियाँ बनाने में कैसे मदद कर सकते हैं? अपने विचार दें।
- AymurAI जैसे उपकरणों में ऑडियो-से-टेक्स्ट जोड़ने से किन नैतिक और निजी सुरक्षा सवालों की संभावना है? उदाहरण दें।
- संवेदनशील जानकारी की सुरक्षा और सरकारों या नागरिक समाज को भरोसेमंद साक्ष्य देने के बीच संतुलन कैसे बनाया जा सकता है? आप क्या सुझाव देंगे?
