एआई मॉडरेशन और अफ्रीकी भाषाओं की दृश्यता ^{CEFR B1}

एआई आधारित मॉडरेशन सिस्टम और लोगों की बोली भाषाओं के बीच बड़ा फर्क है। मॉडरेटर और शोधकर्ता कहते हैं कि जिन भाषाओं में लोग सामग्री बनाते हैं, वे अक्सर उन भाषाओं से मेल नहीं खातीं जिन्हें मॉडल्स संसाधित कर पाते हैं। 2025 के एक अध्ययन में पाया गया कि प्रमुख भाषा मॉडल्स में केवल 42 अफ्रीकी भाषाएँ मायने रखकर दिखाई देती हैं और केवल चार भाषाओं को किसी हद तक लगातार संभाला जाता है: अम्हारिक, स्वाहिली, अफ्रिकान्स और मलागासी।

नतीजा यह है कि अफ्रीका की अधिकांश भाषाएँ मॉडरेशन के लिए अधूरा कवरेज पाती हैं। प्लेटफॉर्म्स की अंग्रेजी-भाषा पर निर्भरता गलत हटाने (false positives) और हानिकारक चीजों के अनदेखे रहने (false negatives) दोनों पैदा करती है। केन्याई क्रिएटर जैक्सन बु्सोलो का अकाउंट फरवरी 2025 में बिना स्पष्टीकरण हटाया गया और बाद में बहाल हुआ। जनवरी से मार्च 2025 के बीच टिकटोक ने केन्या से लाखों वीडियो हटाए और हजारों अकाउंट बैन किए।

समाधान के प्रयास भी चल रहे हैं: AfricaNLP और अन्य शैक्षणिक टीमें डेटासेट बना रही हैं, और कुछ कंपनियों ने स्थानीय भाषाओं का डेटा जोड़ना शुरू किया है।