En América Latina varias iniciativas desarrollan inteligencia artificial local y de código abierto para estudiar y reducir la violencia y las desigualdades de género. Los colectivos advierten que muchos sistemas creados por grandes empresas contienen sesgos que no se ajustan a las realidades regionales y, por ello, proponen herramientas que protejan la privacidad y generen evidencia útil para la acción pública.
En Argentina Ivana Feldfeber creó DataGénero y su equipo desarrolló AymurAI, un programa que extrae información relevante de documentos judiciales y la guarda en una base de datos sin interpretar el material. AymurAI, implementado en servidores locales antes del auge de Chat GPT, funciona desde 2021 en tribunales de Argentina, Chile y Costa Rica y ya reúne más de 10,000 sentencias. El proyecto recibió financiación del IDRC de Canadá y de la Patrick McGovern Foundation y planea incorporar una función de audio a texto para preservar testimonios y evitar que las víctimas repitan hechos traumáticos, además de anonimizar direcciones y otros datos sensibles.
Otras iniciativas, como Derechos Digitales en Chile y PIT Policy Lab en México, analizan políticas, promueven perspectivas feministas y detectan sesgos técnicos; en Guanajuato el equipo de PIT encontró que 4,000 jóvenes habían sido mal identificados como no en riesgo. Expertos como Daniel Yankelevich de Fundar insisten en entrenar modelos con datos locales porque el comportamiento varía según la cultura. Entre las medidas comunes están mejorar los datos de entrenamiento, añadir transcripción de audio, reforzar marcos de protección y promover políticas públicas para reducir daños de algoritmos opacos o sesgados.
Palabras difíciles
- código abierto — programa disponible para usar y modificar por todos
- sesgo — tendencia injusta que altera resultados o decisionessesgos
- privacidad — protección de datos personales y vida íntima
- evidencia — información que respalda una hipótesis o acción
- anonimizar — quitar datos que identifican a una persona
- entrenar — enseñar a un modelo con datos para funcionar
- algoritmo — conjunto de instrucciones que realiza una tareaalgoritmos
Consejo: pasa el cursor, enfoca o toca las palabras resaltadas en el artículo para ver definiciones rápidas mientras lees o escuchas.
Preguntas de discusión
- ¿Qué ventajas y riesgos ves en usar IA local y de código abierto para casos de violencia de género? Explica con razones.
- ¿Cómo podría ayudar la transcripción de audio a mejorar la protección de las víctimas y la calidad de la evidencia? Da ejemplos.
- ¿Qué medidas crees que son necesarias para reducir los sesgos en algoritmos usados en tribunales y políticas públicas?
Artículos relacionados
Ciudades asiáticas combaten la congestión y la contaminación
La congestión en ciudades de Asia genera emisiones y pérdidas económicas. Varias urbes aplican medidas: retiro de vehículos viejos, más transporte eléctrico y ampliación del metro, y usan tecnología para gestionar el tráfico.
Dispositivos ponibles con IA para diabetes tipo 2 y prediabetes
Una meta-revisión de la University at Buffalo, publicada en NPJ Digital Medicine, analiza estudios sobre ponibles con inteligencia artificial y su uso en diabetes tipo 2 y prediabetes. Encuentra beneficios y límites en la evidencia actual.