लैटिन अमेरिका में स्थानीय AI से लिंग असमानता और हिंसा का पता ^{CEFR B2}

लैटिन अमेरिका के कई समूह स्थानीय और खुले AI टूल बना रहे हैं ताकि लिंग असमानता और घरेलू तथा सामुदायिक हिंसा को मापा और कम किया जा सके। एक्टिविस्ट और शोधकर्ता बताते हैं कि कई बड़ी तकनीकी कंपनियों के एल्गोरिदम क्षेत्रीय वास्तविकता को नहीं समझते और उनमें पक्षपातजनक धारणाएँ होती हैं। इसलिए क्षेत्रीय पहल संवेदनशील जानकारी की सुरक्षा करते हुए सरकारों और नागरिक समाज को भरोसेमंद साक्ष्य देने पर जोर दे रही हैं।

अरिज़ेंटीना में इवाना फेल्डफेबर की DataGénero टीम ने AymurAI नामक ओपन-सोर्स प्रोग्राम बनाया। यह टूल अदालत के केस दस्तावेजों में लिंग आधारित हिंसा से जुड़े किस्से और जानकारी इकट्ठा करता है, बिना उनका अर्थ निकाले, और लोकल सर्वरों पर स्थापित रहता है। AymurAI Chat GPT के उदय से पहले बनाया गया था और 2021 के बाद से अर्जेंटीना, चिली और कोस्टा रिका की अदालतों में उपयोग हो रहा है; इसमें 10,000 से अधिक अदालत के निर्णय शामिल हैं।

AymurAI को International Development Research Centre (IDRC) और Patrick McGovern Foundation से वित्तीय मदद मिली है। टीम एक ऑडियो-से-टेक्स्ट फ़ंक्शन जोड़ने की योजना बना रही है, ताकि मान्य किए जाने पर गवाहियों को संरक्षित किया जा सके और पीड़ितों को बार-बार दुखद घटनाएँ बतानी न पड़ें।

अन्य पहलें भी लोकल मॉडल और डेटा पर जोर देती हैं। Derechos Digitales की जमिला वेंटुरिनी कहती हैं कि कई AI सिस्टम क्षेत्र से दूर बने हैं और वे लिंग, जाति, उम्र और क्षमताओं से जुड़े स्थानीय माँगों से मेल नहीं खाते। Fundar के डैनियल यांकेलेविच का तर्क है कि व्यवहार संस्कृति के अनुसार बदलता है और भविष्यवाणी करने वाले सिस्टमों को निर्यातित पक्षपात से बचाने के लिए स्थानीय डेटा पर प्रशिक्षित होना चाहिए।

• आगे के सामान्य कदमों में प्रशिक्षण डेटा सुधारना शामिल है।
• ऑडियो ट्रांसक्रिप्शन जोड़ना योजनाओं में है।
• सुरक्षा ढांचे मजबूत करना और सार्वजनिक नीतियाँ बढ़ाना अपेक्षित है।