AI와 책임: 히자 카므란의 경고 ^{CEFR B2}

이 글은 Global Voices, Association for Progressive Communication(APC), GenderIT의 공동 기획 시리즈 "Don’t ask AI, ask a peer"에 대한 기고를 바탕으로 하며, Global Voices의 2026년 4월 스포트라이트 시리즈 "Human perspectives on AI"의 일부입니다. 저자 히자 카므란은 신기술에 대해 신중한 태도를 취해 왔고, 기술 기업들이 사업 모델에 더 충성하는 경향을 비판합니다. 글에는 해로운 콘텐츠와 광고 문제에 대해 기업 책임자가 이용 약관을 읽으라고 권장한 사례가 소개되어 있습니다.

카므란은 기술이 중립적이지 않다고 말합니다. 시스템은 특정 관점을 가진 주체가 설계하므로 누가, 어디서 만드는지가 중요합니다. 학습 자료는 인터넷과 공적 기록에서 오며, 그 안에는 배제·인종차별·성차별·경제적 불평등의 역사가 담겨 있습니다. AI가 이런 데이터를 학습하면 기존의 해악을 암호화하고 증폭할 수 있으며, 결과물을 중립적으로 제시하는 방식이 큰 문제라고 지적합니다.

글은 기업의 인센티브가 시스템 개발과 배치 방식에 영향을 준다고 설명합니다. 이윤 동기·주주·성장 목표는 어떤 문제를 우선시할지, 제품 출시 속도, 그리고 누구의 땅과 지식·삶이 영향을 받는지를 좌우합니다. 경쟁 속에서 사람들을 '부수적 피해'로 설명하는 경향도 문제로 지적됩니다.

• 누가 이 시스템을 만들었는가?
• 시스템은 어떻게 작동하는가?
• 누가 이익을 얻는가?

카므란은 탈인간화의 위험을 특히 강조합니다. 군사화된 맥락에서는 사람이 데이터 포인트로 축소되어 표적이 될 수 있습니다. AI는 맥락이나 역사, 책임을 이해하지 못하고 확률에 근거해 출력을 생성합니다. 인간의 패턴을 모방할 수는 있어도 사람이 되거나 돌봄을 느끼거나 관계를 맺을 수는 없습니다. 따라서 기술의 개발과 상업화 초기 단계에서 회의적 태도를 취하고 권력자에게 책임을 묻는 인권적 접근을 유지해야 한다고 주장합니다. 히자 카므란은 GenderIT.org의 수석 편집자이며 APC의 여성권리 프로그램에서 옹호 전략가로 활동합니다.