브라질에서 늘어나는 AI 기반 성적 이미지 문제 ^{CEFR B2}

브라질에서 발생한 일련의 사건은 AI로 생성된 동의 없는 성적 이미지가 개인의 권리와 안전을 심각하게 위협한다는 사실을 부각시켰습니다. 2023년 11월 리우데자네이루와 2024년 9월 바히아에서의 사례, 그리고 마투그로수의 퇴학 처분 사례는 이 문제가 다양한 지역과 집단에 걸쳐 나타나고 있음을 보여줍니다.

Internetlab은 2026년 4월 초 기술 노트에서 학습용 데이터와 데이터베이스가 편향될 수 있고, 그 결과 AI 도구가 성별 기반 폭력을 재생산하거나 증폭할 위험이 크다고 분석했습니다. 연구는 특히 동의 없는 성적 딥페이크를 "과도한 위험(excessive risk)"으로 규정해 사용을 금지할 것과, 디지털 리터러시 교육과 플랫폼의 책임 규정을 강화할 것을 권고했습니다.

배경에는 2025년 연방대법원(STF)이 Marco Civil da Internet의 한 조항을 일부 무효화한 판결이 있어 플랫폼 책임에 관한 논쟁이 커졌습니다. Internetlab은 여성혐오적 행위를 처벌하려는 입법 흐름과 '마노스피어' 관련 운동의 증가를 지적하면서도 형사처벌만으로는 문제를 해결하기 어렵다고 경고했습니다.

또한 소장 클라리스 타바레스는 선거철을 앞두고 Gemini, ChatGPT, Claude와 같은 AI 도구와 챗봇이 성별 편향과 여성에 대한 정치적 폭력을 재생산할 우려가 있다고 말했습니다. 새로운 법과 플랫폼 규칙이 피해를 얼마나 빨리 막을지는 아직 불확실합니다.