Organizaes da Amrica Latina esto a desenvolver ferramentas de inteligncia artificial com foco em desigualdade de gnero e violncia, procurando respostas mais adequadas s realidades locais. A DataGnero, criada por Ivana Feldfeber na Argentina, lançou o AymurAI, um programa de cdigo aberto que vasculha documentos de processos judiciais em busca de informaes relevantes. Para proteger as vtimas, o sistema est instalado em servidores locais e envia exatamente o que encontra para uma base de dados, sem interpretar o contedo.
O AymurAI existe desde 2021 e j inclui dados de mais de 10.000 acrdos. Recebeu financiamento do International Development Research Centre (IDRC) do Canad e da Patrick McGovern Foundation. A equipa pretende adicionar uma funo de transcrio de udio para texto, que depois de validada poderia preservar testemunhos e impedir que vtimas repitam experincias traumticas.
Outras iniciativas seguem abordagens distintas. Derechos Digitales, liderada por Jamila Venturini, analisa polticas tecnolgicas e alerta que muitos sistemas de IA so desenvolvidos fora da regio e trazem vieses sobre gnero, raça, idade e capacidade. No Mxico, o PIT Policy Lab, de Cristina Martnez Pinto, trabalhou com o estado de Guanajuato e verificou que 4.000 jovens foram identificados erroneamente como no em risco, o que levou a ajustes tcnicos e formaes.
O cientista Daniel Yankelevich, do Fundar, ressalta a necessidade de modelos e dados locais. Entre os passos seguintes comuns aos projetos esto:
- melhorar os dados de treino,
- adicionar funes tcnicas como transcrio de udio,
- reforar os quadros de proteo de dados,
- promover polticas pblicas para reduzir danos de algoritmos enviesados ou opacos.
Palavras difíceis
- desigualdade — diferença injusta entre grupos sociais
- vasculhar — procurar cuidadosamente em documentos ou dadosvasculha
- proteger — defender ou manter segura uma pessoa
- servidor — computador que guarda e oferece dadosservidores
- financiamento — dinheiro ou recursos dados para um projeto
- viés — tendência que causa parcialidade ou errovieses
- transcrição — transformar áudio falado em texto escritotranscrio
Dica: passe o mouse, foque ou toque nas palavras destacadas no artigo para ver definições rápidas enquanto lê ou ouve.
Perguntas para discussão
- Quais são, na sua opinião, os principais benefícios e riscos de usar IA em casos de violência de gênero?
- Que medidas concretas poderiam ajudar a evitar vieses quando se usa modelos de IA desenvolvidos fora da região?
- Que vantagens e desafios existem ao instalar sistemas em servidores locais para proteger dados de vítimas?
Artigos relacionados
Arquivistas cidadãos preservam cultura oral no Sul da Ásia
Arquivistas cidadãos gravam cantos, histórias e saberes tradicionais no Sul da Ásia. O projeto "Enhancing Indic oral culture on Wikimedia projects" apoia gravações e transcrições para Wikimedia Commons, Wikisource e Wikipedia.
Deslocamento à direita entre jovens homens na Coreia do Sul
Estudos e eleições mostram que muitos homens jovens na Coreia do Sul se tornaram mais conservadores, criando uma grande diferença de opinião entre os géneros. Apesar disso, a maioria desses jovens afirma respeitar as regras democráticas.