Organizaes da Amrica Latina esto a desenvolver ferramentas de inteligncia artificial com foco em desigualdade de gnero e violncia, procurando respostas mais adequadas s realidades locais. A DataGnero, criada por Ivana Feldfeber na Argentina, lançou o AymurAI, um programa de cdigo aberto que vasculha documentos de processos judiciais em busca de informaes relevantes. Para proteger as vtimas, o sistema est instalado em servidores locais e envia exatamente o que encontra para uma base de dados, sem interpretar o contedo.
O AymurAI existe desde 2021 e j inclui dados de mais de 10.000 acrdos. Recebeu financiamento do International Development Research Centre (IDRC) do Canad e da Patrick McGovern Foundation. A equipa pretende adicionar uma funo de transcrio de udio para texto, que depois de validada poderia preservar testemunhos e impedir que vtimas repitam experincias traumticas.
Outras iniciativas seguem abordagens distintas. Derechos Digitales, liderada por Jamila Venturini, analisa polticas tecnolgicas e alerta que muitos sistemas de IA so desenvolvidos fora da regio e trazem vieses sobre gnero, raça, idade e capacidade. No Mxico, o PIT Policy Lab, de Cristina Martnez Pinto, trabalhou com o estado de Guanajuato e verificou que 4.000 jovens foram identificados erroneamente como no em risco, o que levou a ajustes tcnicos e formaes.
O cientista Daniel Yankelevich, do Fundar, ressalta a necessidade de modelos e dados locais. Entre os passos seguintes comuns aos projetos esto:
- melhorar os dados de treino,
- adicionar funes tcnicas como transcrio de udio,
- reforar os quadros de proteo de dados,
- promover polticas pblicas para reduzir danos de algoritmos enviesados ou opacos.
Palavras difíceis
- desigualdade — diferença injusta entre grupos sociais
- vasculhar — procurar cuidadosamente em documentos ou dadosvasculha
- proteger — defender ou manter segura uma pessoa
- servidor — computador que guarda e oferece dadosservidores
- financiamento — dinheiro ou recursos dados para um projeto
- viés — tendência que causa parcialidade ou errovieses
- transcrição — transformar áudio falado em texto escritotranscrio
Dica: passe o mouse, foque ou toque nas palavras destacadas no artigo para ver definições rápidas enquanto lê ou ouve.
Perguntas para discussão
- Quais são, na sua opinião, os principais benefícios e riscos de usar IA em casos de violência de gênero?
- Que medidas concretas poderiam ajudar a evitar vieses quando se usa modelos de IA desenvolvidos fora da região?
- Que vantagens e desafios existem ao instalar sistemas em servidores locais para proteger dados de vítimas?
Artigos relacionados
IA e imagens medem fluxo de líquido no cérebro
Pesquisadores combinaram ressonância magnética e inteligência artificial para estimar o fluxo de um líquido do sistema glinfático ligado à doença de Alzheimer. O estudo usou redes neurais treinadas com vídeos de corante e identificou duas vias de remoção de resíduos.
Nano‑OLEDs do ETH Zurich com pixels menores que células
Pesquisadores do ETH Zurich fabricaram OLEDs em escala nanométrica com pixels de até 100 nanômetros e demonstraram um logótipo de 2.800 nano‑pixels. O trabalho saiu na revista Nature Photonics e aponta aplicações em ecrãs e microscopia.