En América Latina varias iniciativas desarrollan inteligencia artificial local y de código abierto para estudiar y reducir la violencia y las desigualdades de género. Los colectivos advierten que muchos sistemas creados por grandes empresas contienen sesgos que no se ajustan a las realidades regionales y, por ello, proponen herramientas que protejan la privacidad y generen evidencia útil para la acción pública.
En Argentina Ivana Feldfeber creó DataGénero y su equipo desarrolló AymurAI, un programa que extrae información relevante de documentos judiciales y la guarda en una base de datos sin interpretar el material. AymurAI, implementado en servidores locales antes del auge de Chat GPT, funciona desde 2021 en tribunales de Argentina, Chile y Costa Rica y ya reúne más de 10,000 sentencias. El proyecto recibió financiación del IDRC de Canadá y de la Patrick McGovern Foundation y planea incorporar una función de audio a texto para preservar testimonios y evitar que las víctimas repitan hechos traumáticos, además de anonimizar direcciones y otros datos sensibles.
Otras iniciativas, como Derechos Digitales en Chile y PIT Policy Lab en México, analizan políticas, promueven perspectivas feministas y detectan sesgos técnicos; en Guanajuato el equipo de PIT encontró que 4,000 jóvenes habían sido mal identificados como no en riesgo. Expertos como Daniel Yankelevich de Fundar insisten en entrenar modelos con datos locales porque el comportamiento varía según la cultura. Entre las medidas comunes están mejorar los datos de entrenamiento, añadir transcripción de audio, reforzar marcos de protección y promover políticas públicas para reducir daños de algoritmos opacos o sesgados.
Palabras difíciles
- código abierto — programa disponible para usar y modificar por todos
- sesgo — tendencia injusta que altera resultados o decisionessesgos
- privacidad — protección de datos personales y vida íntima
- evidencia — información que respalda una hipótesis o acción
- anonimizar — quitar datos que identifican a una persona
- entrenar — enseñar a un modelo con datos para funcionar
- algoritmo — conjunto de instrucciones que realiza una tareaalgoritmos
Consejo: pasa el cursor, enfoca o toca las palabras resaltadas en el artículo para ver definiciones rápidas mientras lees o audicións.
Preguntas de discusión
- ¿Qué ventajas y riesgos ves en usar IA local y de código abierto para casos de violencia de género? Explica con razones.
- ¿Cómo podría ayudar la transcripción de audio a mejorar la protección de las víctimas y la calidad de la evidencia? Da ejemplos.
- ¿Qué medidas crees que son necesarias para reducir los sesgos en algoritmos usados en tribunales y políticas públicas?
Artículos relacionados
Detección de Anopheles stephensi en Madagascar con IA y fotos ciudadanas
Investigadores usaron inteligencia artificial y fotos enviadas por ciudadanos para identificar lo que creen fue la primera detección de Anopheles stephensi en Madagascar. La imagen fue tomada en 2020 y revisada años después.
Países de América Latina acuerdan una hoja de ruta ética para la IA
En una cumbre en la República Dominicana los días 25 y 26 de junio, países de América Latina y el Caribe aprobaron la Declaración de Santo Domingo, con una hoja de ruta 2026-2027 y un grupo regional sobre desinformación e IA.
MRI e IA miden el flujo de limpieza del cerebro
Investigadores usaron resonancia magnética e inteligencia artificial para estimar la velocidad de un líquido cerebral que elimina desechos y está vinculado al Alzheimer. La técnica usa IA informada por la física y datos de MRI y vídeos.