Organizaes da Amrica Latina esto a desenvolver ferramentas de inteligncia artificial com foco em desigualdade de gnero e violncia, procurando respostas mais adequadas s realidades locais. A DataGnero, criada por Ivana Feldfeber na Argentina, lançou o AymurAI, um programa de cdigo aberto que vasculha documentos de processos judiciais em busca de informaes relevantes. Para proteger as vtimas, o sistema est instalado em servidores locais e envia exatamente o que encontra para uma base de dados, sem interpretar o contedo.
O AymurAI existe desde 2021 e j inclui dados de mais de 10.000 acrdos. Recebeu financiamento do International Development Research Centre (IDRC) do Canad e da Patrick McGovern Foundation. A equipa pretende adicionar uma funo de transcrio de udio para texto, que depois de validada poderia preservar testemunhos e impedir que vtimas repitam experincias traumticas.
Outras iniciativas seguem abordagens distintas. Derechos Digitales, liderada por Jamila Venturini, analisa polticas tecnolgicas e alerta que muitos sistemas de IA so desenvolvidos fora da regio e trazem vieses sobre gnero, raça, idade e capacidade. No Mxico, o PIT Policy Lab, de Cristina Martnez Pinto, trabalhou com o estado de Guanajuato e verificou que 4.000 jovens foram identificados erroneamente como no em risco, o que levou a ajustes tcnicos e formaes.
O cientista Daniel Yankelevich, do Fundar, ressalta a necessidade de modelos e dados locais. Entre os passos seguintes comuns aos projetos esto:
- melhorar os dados de treino,
- adicionar funes tcnicas como transcrio de udio,
- reforar os quadros de proteo de dados,
- promover polticas pblicas para reduzir danos de algoritmos enviesados ou opacos.
Palavras difíceis
- desigualdade — diferença injusta entre grupos sociais
- vasculhar — procurar cuidadosamente em documentos ou dadosvasculha
- proteger — defender ou manter segura uma pessoa
- servidor — computador que guarda e oferece dadosservidores
- financiamento — dinheiro ou recursos dados para um projeto
- viés — tendência que causa parcialidade ou errovieses
- transcrição — transformar áudio falado em texto escritotranscrio
Dica: passe o mouse, foque ou toque nas palavras destacadas no artigo para ver definições rápidas enquanto lê ou ouve.
Perguntas para discussão
- Quais são, na sua opinião, os principais benefícios e riscos de usar IA em casos de violência de gênero?
- Que medidas concretas poderiam ajudar a evitar vieses quando se usa modelos de IA desenvolvidos fora da região?
- Que vantagens e desafios existem ao instalar sistemas em servidores locais para proteger dados de vítimas?
Artigos relacionados
Simulação de quase-morte em realidade virtual reduz medo da morte
Um pequeno estudo piloto com estudantes mostrou que uma sessão breve de realidade virtual baseada em relatos de quase-morte reduziu a ansiedade em relação à morte. Os pesquisadores planejam ampliar o estudo, mas pedem cautela.
Inteligência artificial e a terra no Brasil
Pesquisa de Mariana Tamari e Joana Varon mostra como IA, automação e ferramentas digitais mudam o uso da terra. O estudo liga digitalização do agronegócio a deslocamentos, invisibilização de comunidades e pedidos por transparência e proteção territorial.
Sensores domésticos e IA para monitorizar pessoas com ELA
Uma equipa da Universidade do Missouri testa sensores domésticos e inteligência artificial para acompanhar alterações de saúde em pessoas com esclerose lateral amiotrófica (ELA). O sistema usa aprendizado de máquina para estimar a pontuação ALSFRS-R e pode alertar clínicos.