AI와 LGBTQ+: 편향과 감시의 위험 ^{CEFR B2}

인공지능 기술은 빠르게 확산되고 있고, Ipsos의 여론조사에서는 응답자 55퍼센트가 AI 기반 솔루션이 단점보다 이점을 더 많이 제공한다고 느꼈다. 지난 10년간 민간 투자 증가로 여러 기업이 효율성·사용 편의성을 내세워 도구를 홍보해 왔지만, 동시에 기술의 위험에 대한 우려도 커지고 있다.

이 우려는 특히 LGBTQ+ 공동체에서 두드러진다. 문제는 주로 모델을 학습시키는 데이터에서 비롯된다. Wired는 Midjourney와 같은 이미지 생성 도구가 LGBTQ+ 인물을 묘사하라는 요청에 단순하거나 해로운 이미지를 만들어냈다고 보도했다. 인터넷에 존재하는 고정관념이 학습 데이터에 섞이면, 그 데이터를 기반으로 한 모델이 편향을 재생산할 가능성이 높다. 데이터 라벨링 등 개선책이 일부 도움이 되지만 모든 경멸적 내용을 제거하기는 어렵다.

대형 언어 모델에서도 유사한 문제가 관찰된다. UNESCO의 검토는 Meta의 Llama 2와 OpenAI의 GPT-2 같은 널리 쓰이는 도구들이 시뮬레이션에서 동성애자에 대해 부정적인 내용을 절반 이상 만들어냈다고 결론지었다. 이는 학습 데이터와 설계 선택이 반복적 피해를 만들 수 있음을 보여 준다.

위험은 디지털 출력에만 국한되지 않는다. 벨기에 비영리단체 Forbidden Colours는 자동 성별 인식(AGR) 시스템이 보안 카메라 영상 같은 시청각 자료를 분석해 얼굴 특징이나 목소리 패턴으로 사람의 성별을 추정한다고 설명했다. 이 단체는 이러한 측정만으로 개인의 자가 이해 성별을 알 수 없으며, 그런 시스템은 잘못된 판단을 낳고 잠재적으로 위험하다고 주장한다.

일부 정부는 이미 생체인식 감시 도구를 도입했다. Politico Europe은 헝가리 총리 Viktor Orbán이 지역 프라이드 행사에서 AI 기반 생체인식 감시를 승인하며 아이들을 "LGBTQ+ 의제"로부터 보호하겠다고 말한 사실을 보도했다. 실제로 이 조치는 정부와 법집행기관이 예술가, 활동가, 일반 시민을 감시할 수 있게 한다고 기사에 적혔다. 유럽연합 기관들은 이 정책을 검토하고 있다.

옹호단체들은 변화와 보호장치 강화를 요구한다. 그들은 개발자와 LGBTQ+ 이해당사자 간의 협력, 감시 남용에 대한 더 강한 보호, 성별을 탐지하거나 분류하는 시스템의 금지를 요구하며, 도구 개발의 모든 단계에서 LGBTQ+ 사람들의 의견을 구해야 한다고 주장한다. 이러한 조치는 피해를 줄이고 AI가 더 많은 사람에게 유용하고 공정해질 가능성을 높이는 것을 목표로 한다.

• 개발자와 이해당사자 협력
• 감시 남용에 대한 강한 보호
• 성별 탐지 시스템 금지 요구