KI und nicht-einvernehmliche Nacktbilder in Brasilien ^{CEFR B2}

In Brasilien zeigen mehrere dokumentierte Fälle, wie künstliche Intelligenz ohne Einwilligung zur Erstellung sexueller Bilder genutzt wurde. Eltern in Rio de Janeiro berichteten im November 2023, dass Teenager KI-generierte Nacktbilder von Mitschülern teilten. Im September 2024 gab es Verdachtsfälle in Bahia, und in Mato Grosso wurden Schüler nach dem Teilen von KI-Bildern in Online-Pornografie-Communities von der Schule verwiesen.

Diese Vorfälle fasst das unabhängige Forschungszentrum Internetlab in einer technischen Notiz zusammen, die Anfang April 2026 erschien. Internetlab untersucht Online-Gewalt gegen Frauen und Mädchen und betont, dass voreingenommene Daten und Trainingssätze KI-Werkzeuge geschlechtsspezifische Gewalt reproduzieren oder verstärken können. Als Beleg zitiert die Notiz Studien zu sexuellen Deepfakes, die einen starken Anstieg dokumentieren.

• Sicherheitsprinzipien von Anfang an, damit Plattformen Schutzmechanismen einbauen;
• Einstufung nicht-einvernehmlicher sexueller Deepfakes als übermäßiges Risiko und deren Verbot;
• Leitlinien für digitale Bildung und klarere Regeln zur Rechenschaftspflicht von Plattformen.

Internetlab weist zudem auf die öffentliche Debatte hin: Der Federal Supreme Court (STF) hob 2025 einen Artikel des Marco Civil da Internet teilweise auf, was Forderungen nach neuer Regulierung auslöste. Internetlab und Direktorin Clarice Tavares warnen, dass AI-Tools und Chatbots wie Gemini, ChatGPT und Claude geschlechtsspezifische Voreingenommenheit und politische Gewalt gegen Frauen reproduzieren könnten. Es ist unklar, wie schnell neue Gesetze oder Plattformregeln die Schäden eindämmen werden.