ブラジルで同意なくAIが性的画像を作成 ^{CEFR B2}

ブラジルでは人工知能（AI）を用いた同意のない性的画像の作成が社会問題となっています。具体例として、2023年11月にリオデジャネイロで保護者が高校生らによる同級生のAI合成ヌードの作成・共有を報告し、2024年9月にはバイーア州でティーンのグループが同級生のポルノ画像をAIで作成した疑いが持たれました。マト・グロッソ州では教師や生徒の画像がオンラインのポルノコミュニティで共有され、生徒が退学処分を受けています。

独立系研究機関Internetlabは2026年4月上旬に技術ノートを公表し、女性と少女に対するオンライン上の暴力を検討しました。同機関は、データベースや学習用データセットに偏りがあり、AIツールがジェンダーに基づく暴力を再生産・増幅する可能性があると指摘しています。引用された調査（Security Hero）では、性的に露骨なディープフェイクがディープフェイク動画の98パーセントを占め、ターゲットの99パーセントが女性であり、2022年から2023年にかけて性的ディープフェイクは464パーセント増加したと報告されています。

Internetlabは「安全設計（safety-by-design）」の導入や、同意のない性的ディープフェイクを「excessive risk（過度のリスク）」と見なして使用を禁じることを求めています。さらにデジタルリテラシーのカリキュラム指針や、プラットフォームの説明責任に関する明確な規則の整備も提案しました。公的議論では、連邦最高裁（STF）が2025年にMarco Civil da Internetの一部条項を無効としたこともあり、より強い規制を求める声が上がっています。

選挙シーズンを控え、Internetlabと同機関のディレクターClarice Tavaresは、Gemini、ChatGPT、ClaudeなどのAIツールやチャットボットがジェンダー偏見や女性に対する政治的暴力を再生産する形で利用されるおそれがあると警告しています。新たな法律やプラットフォーム規則が被害をどれほど速く止められるかは依然として不透明です。