تسعى مبادرات من منظمات وناشطات في أمريكا اللاتينية إلى بناء أدوات ذكاء اصطناعي لترصد العنف القائم على النوع وتقلل عدم المساواة. يجادل الناشطون بأن العديد من نماذج الذكاء الاصطناعي الكبيرة تُبنَى بعيداً عن المنطقة وتُظهر تحيّزات لا تتوافق مع الاحتياجات المحلية المتعلقة بالنوع والعرق والعمر والإعاقة، لذا يعتبر البحث والبيانات المحلية المفتوحة والآمنة أمراً ضرورياً لتقديم أدلة قابلة للاستخدام من قبل الحكومات والمجتمع المدني.
أمثلة واضحة على العمل المحلي تشمل DataGénero في الأرجنتين، التي أسستها إيفانا فيلدفيبر، وفريقها طور برنامج AymurAI المفتوح المصدر. يفحص AymurAI مستندات الدعاوى في المحاكم عن معلومات عن العنف القائم على النوع، ويعمل على خوادم محلية لحماية الأمن والسرية. طُرح قبل ظهور Chat GPT واستخدم منذ 2021 في محاكم بالأرجنتين وتشيلي وكوستاريكا، ويشمل بيانات من أكثر من 10,000 حكماً قضائياً. حصل المشروع على تمويل من المركز الكندي للبحث في التنمية الدولية (IDRC) ومؤسسة باتريك ماكغوفن.
مبادرات أخرى مثل Derechos Digitales بقيادة جميلة فينتوريني تحلل سياسات التكنولوجيا وتدافع عن وجهات نظر نسوية في الحقوق الرقمية، بينما أسست كريستينا مارتينيز بينتو PIT Policy Lab في 2021 وعملت مع حكومة ولاية جواناخواتو فلاحظت أن 4,000 شاباً شُخِّصوا خطأً كغير معرضين للخطر، فطوّروا أدوات مفتوحة للرصد وقدّموا تدريباً للمسؤولين حول حقوق الإنسان والنوع الاجتماعي في الذكاء الاصطناعي.
- تحسين بيانات التدريب.
- إضافة وظائف تقنية مثل نسخ الصوت إلى نص.
- تقوية الأطر الوقائية لحماية البيانات والحقوق.
- تشجيع سياسات عامة لتقليل أضرار الخوارزميات المتحيّزة.
كما يؤكد دانيال يانكيلفيتش من Fundar على ضرورة وجود نماذج وبيانات محلية لأن السلوك يختلف باختلاف الثقافة، وأن الأنظمة التنبؤية يجب تدريبها بمعلومات محلية لتفادي نقل التحيّزات.
كلمات صعبة
- ذكاء اصطناعي — تقنيات وبرامج تحاكي التفكير البشري في الحاسوبالذكاء الاصطناعي
- تحيّز — ميل أو خطأ في نتائج يجعل بعض الأشخاص مفضَّلينتحيّزات
- مفتوح المصدر — برنامج أو رمز يمكن للجميع الاطّلاع عليه وتعديلهالمفتوح المصدر
- سرية — حفظ المعلومات بعيدة عن الوصول غير المصرح بهالسرية
- خوارزمية — مجموعة خطوات حسابية لحل مشكلة أو اتخاذ قرارالخوارزميات
- نظام تنبؤي — برنامج يتوقّع نتائج بناءً على بيانات سابقةالأنظمة التنبؤية
تلميح: مرّر المؤشر أو ركّز أو اضغط على الكلمات المظلَّلة داخل القصة لرؤية تعريفات سريعة أثناء القراءة أو الاستماع.
أسئلة للمناقشة
- هل تعتقد أن أدوات محلية مثل AymurAI أكثر فعالية في حماية الضحايا مقارنة بالأدوات العالمية؟ اذكر أسباباً أو أمثلة.
- ما الصعوبات الممكنة في جمع ونشر بيانات محلية مفتوحة وآمنة لحماية الحقوق؟ وكيف يمكن التعامل معها؟
- كيف يمكن للحكومات والمجتمع المدني التعاون لضمان سرية البيانات مع السماح باستخدامها لتطوير حلول مفيدة؟
