ब्राज़ील में बिना सहमति AI-जनित यौन तस्वीरों का बढ़ता खतरा ^{CEFR B2}

ब्राज़ील में कई हाल के मामलों ने दिखाया कि कैसे AI का इस्तेमाल बिना सहमति यौन तस्वीरें बनाने के लिए किया गया। नवंबर 2023 में रियो डी जनेरियो के अभिभावकों ने किशोरों द्वारा सहपाठियों की AI-जनित नग्न तस्वीरें बनाने और साझा करने की रिपोर्ट की। सितंबर 2024 में बहिया में एक किशोर समूह पर इसी तरह का संदेह जताया गया, और माटो ग्रोसो में छात्रों को एक शिक्षक और अन्य छात्रों की AI तस्वीरें ऑनलाइन पोर्नोग्राफी समुदायों में साझा करने पर निष्कासित कर दिया गया।

Internetlab ने अप्रैल 2026 की शुरुआत में एक तकनीकी नोट प्रकाशित किया। दस्तावेज़ महिलाओं और लड़कियों के खिलाफ ऑनलाइन हिंसा का विश्लेषण करता है और बताता है कि डेटाबेस और प्रशिक्षण सेट पक्षपातपूर्ण हो सकते हैं, जिससे AI उपकरण लैंगिक हिंसा को दोहरा या बढ़ा सकते हैं। Security Hero के अध्ययन के अनुसार यौन रूप से स्पष्ट डीपफेक वीडियो ऑनलाइन उपलब्ध सभी डीपफेक वीडियो का 98% हैं, लक्षित व्यक्तियों में 99% महिलाएँ हैं, और 2022–2023 के बीच यौन डीपफेक्स में 464% की वृद्धि दर्ज की गई।

Internetlab कई नीतिगत कदम सुझाता है: प्लेटफॉर्म पर सुरक्षा-डिज़ाइन लागू करना, बिना सहमति के यौन डीपफेक्स को "अत्यधिक जोखिम" मान कर उनके उपयोग पर पाबंदी, डिजिटल साक्षरता के लिए पाठ्यक्रम दिशानिर्देश और प्लेटफॉर्म जवाबदेही व दायित्वों पर स्पष्ट नियम। सार्वजनिक बहस पहले से सक्रिय है; 2025 में संघीय सर्वोच्च न्यायालय (STF) ने Marco Civil da Internet के एक अनुच्छेद को आंशिक रूप से रद्द किया, जिससे नए विनियमन की माँगें तेज हुईं।

Internetlab और इसकी निदेशक Clarice Tavares चेतावनी देती हैं कि Gemini, ChatGPT और Claude जैसे AI टूल लैंगिक पक्षपात और महिलाओं के विरुद्ध राजनीतिक हिंसा को दोहरा सकते हैं। यह अभी स्पष्ट नहीं है कि नए कानून या प्लेटफॉर्म नियम इन नुकसानकारक घटनाओं को कितनी तेजी से रोक पाएंगे, और दस्तावेज़ बताता है कि केवल आपराधिककरण पर्याप्त नहीं हो सकता।

• घातक जोखिमों से निपटने के लिए तकनीकी और शिक्षा दोनों ज़रूरी हैं।
• प्लेटफॉर्म जवाबदेही नीति में स्पष्टता माँगी गई है।
• डेटा और मॉडलों की पारदर्शिता पर चर्चा होनी चाहिए।