En América Latina varias iniciativas desarrollan inteligencia artificial local y de código abierto para estudiar y reducir la violencia y las desigualdades de género. Los colectivos advierten que muchos sistemas creados por grandes empresas contienen sesgos que no se ajustan a las realidades regionales y, por ello, proponen herramientas que protejan la privacidad y generen evidencia útil para la acción pública.
En Argentina Ivana Feldfeber creó DataGénero y su equipo desarrolló AymurAI, un programa que extrae información relevante de documentos judiciales y la guarda en una base de datos sin interpretar el material. AymurAI, implementado en servidores locales antes del auge de Chat GPT, funciona desde 2021 en tribunales de Argentina, Chile y Costa Rica y ya reúne más de 10,000 sentencias. El proyecto recibió financiación del IDRC de Canadá y de la Patrick McGovern Foundation y planea incorporar una función de audio a texto para preservar testimonios y evitar que las víctimas repitan hechos traumáticos, además de anonimizar direcciones y otros datos sensibles.
Otras iniciativas, como Derechos Digitales en Chile y PIT Policy Lab en México, analizan políticas, promueven perspectivas feministas y detectan sesgos técnicos; en Guanajuato el equipo de PIT encontró que 4,000 jóvenes habían sido mal identificados como no en riesgo. Expertos como Daniel Yankelevich de Fundar insisten en entrenar modelos con datos locales porque el comportamiento varía según la cultura. Entre las medidas comunes están mejorar los datos de entrenamiento, añadir transcripción de audio, reforzar marcos de protección y promover políticas públicas para reducir daños de algoritmos opacos o sesgados.
Palabras difíciles
- código abierto — programa disponible para usar y modificar por todos
- sesgo — tendencia injusta que altera resultados o decisionessesgos
- privacidad — protección de datos personales y vida íntima
- evidencia — información que respalda una hipótesis o acción
- anonimizar — quitar datos que identifican a una persona
- entrenar — enseñar a un modelo con datos para funcionar
- algoritmo — conjunto de instrucciones que realiza una tareaalgoritmos
Consejo: pasa el cursor, enfoca o toca las palabras resaltadas en el artículo para ver definiciones rápidas mientras lees o audicións.
Preguntas de discusión
- ¿Qué ventajas y riesgos ves en usar IA local y de código abierto para casos de violencia de género? Explica con razones.
- ¿Cómo podría ayudar la transcripción de audio a mejorar la protección de las víctimas y la calidad de la evidencia? Da ejemplos.
- ¿Qué medidas crees que son necesarias para reducir los sesgos en algoritmos usados en tribunales y políticas públicas?
Artículos relacionados
Un dispositivo con IA ayuda a diagnosticar autismo en Missouri
Investigadores de la University of Missouri probaron CanvasDx, un dispositivo aprobado por la FDA que usa IA y datos del paciente para apoyar a médicos de atención primaria. El estudio muestra diagnósticos más rápidos y ahorro de desplazamientos.
Recortes a la ayuda internacional ponen en riesgo la salud en 2025
En 2025 grandes recortes a la ayuda internacional paralizaron servicios de salud y humanitarios en muchos países. La suspensión de contratos de Estados Unidos y recortes en Europa dejaron sistemas de salud debilitados y provocaron cierres y desabastecimiento.
Estudio: los chatbots pueden cambiar opiniones
Investigadores de Yale encontraron que resúmenes de chatbots de IA, incluso cuando son fácticos, pueden alterar las opiniones sociales y políticas de las personas. El artículo analiza comparaciones con Wikipedia y evidencia sobre sesgos latentes en los modelos de lenguaje.
La IA que ayuda en la atención sanitaria en África subsahariana
Proyectos de inteligencia artificial ya apoyan diagnósticos y entregas de sangre en partes del África subsahariana. Un piloto en Kenia y otras iniciativas muestran resultados clínicos y plantean retos de regulación y supervisión.