여러 라틴아메리카 단체들이 성별 불평등과 폭력을 더 잘 이해하고 줄이기 위해 지역 현실에 맞춘 공개형 인공지능 도구를 개발하고 있다. 활동가들은 많은 대형 기술 알고리즘이 지역의 성별·인종·연령 요구를 반영하지 못하는 편향을 지닌다고 보고, 민감한 정보는 지역 서버에서 처리해 보호한다.
아르헨티나의 DataGénero는 AymurAI라는 오픈소스 프로그램을 만들어 법원 판결에서 성폭력 관련 정보를 추출한다. AymurAI는 문서를 해석하지 않고 찾은 내용을 데이터베이스로 전송하도록 설계되었으며, Chat GPT 이전에 개발되어 2021년 도입 후 아르헨티나·칠레·코스타리카 법원에서 사용되고 현재 10,000건이 넘는 판결 데이터를 포함한다. 이 프로젝트는 캐나다의 International Development Research Centre(IDRC)와 Patrick McGovern Foundation의 자금을 받았다.
권리 단체들은 설계 단계에서 프라이버시·정의·형평성을 포함해야 한다고 강조한다. 멕시코의 PIT Policy Lab은 관타나후 주와 협력해 학생 중퇴 예측 시스템을 시험한 결과 4,000명의 청소년을 잘못 판단한 사례를 발견했고, 이를 계기로 편향 감지 도구와 공무원 대상 인권·성별 교육을 도입했다. Fundar의 연구자들은 문화마다 행동 양식이 다르므로 예측 시스템을 지역 데이터로 훈련해야 수출된 편향을 피할 수 있다고 말한다.
프로젝트들이 공통적으로 계획하는 다음 단계는 다음과 같다.
- 훈련 데이터 품질 개선
- 음성 전사 등 기술 기능 추가
- 데이터 보호와 익명화 강화
- 공공 정책과 지역 협력 촉진
어려운 단어·표현
- 편향 — 한쪽으로 치우친 판단이나 처리 결과편향을
- 익명화 — 개인 식별 정보를 보이지 않게 만드는 처리
- 프라이버시 — 개인의 사생활과 정보 보호 권리
- 형평성 — 모든 사람에게 공정하고 균등한 대우형평성을
- 추출하다 — 문서나 자료에서 필요한 부분을 뽑아내다추출한다
- 오픈소스 — 원천코드가 공개되어 누구나 사용할 수 있는 소프트웨어
팁: 글에서 강조된 단어에 마우스를 올리거나 포커스/탭하면, 읽거나 들으면서 바로 간단한 뜻을 볼 수 있습니다.
토론 질문
- 지역 현실에 맞춘 인공지능 도구를 만드는 것이 왜 중요하다고 생각하나요? 기사 내용을 참고해 이유를 제시하세요.
- 민감한 정보를 지역 서버에서 처리하는 것의 장점과 위험은 무엇일까요? 구체적인 예를 들어 설명하세요.
- 공공 정책과 지역 협력이 이런 프로젝트에 어떤 도움을 줄 수 있을지 자신의 의견과 이유를 쓰세요.
