Preocupaciones de la comunidad LGBTQ+ sobre la inteligencia artificial ^{CEFR B2}

La presencia de la inteligencia artificial en la vida diaria aumenta y con ella la atención pública. Una encuesta global de Ipsos encontró que el 55 por ciento de los encuestados cree que las soluciones impulsadas por IA ofrecen más beneficios que inconvenientes; al mismo tiempo, la inversión privada en IA se ha disparado y muchas empresas destacan su eficiencia y facilidad de uso. Sin embargo, existe preocupación por los daños que pueden surgir de datos y diseños sesgados.

Las inquietudes son especialmente pronunciadas entre comunidades LGBTQ+. Wired reportó que algunas herramientas de generación de imágenes, como Midjourney, produjeron representaciones reductoras y dañinas cuando se solicitó que mostraran a personas LGBTQ+. Los datos de Internet a menudo contienen estereotipos y los modelos entrenados con esos datos tienden a reproducirlos. La UNESCO examinó supuestos comunes detrás de varios grandes modelos y concluyó que herramientas de uso generalizado como Llama 2 de Meta y GPT-2 de OpenAI mostraban actitudes heteronormativas y generaban contenido negativo sobre personas gays más de la mitad del tiempo en sus simulaciones. Estas conclusiones muestran cómo los datos de entrenamiento y las decisiones de diseño pueden producir daños repetidos.

Los riesgos también incluyen la vigilancia. Forbidden Colours, una ONG belga que defiende los derechos LGBTQ+, describió el funcionamiento de los sistemas de "reconocimiento automático de género" (AGR), que analizan material audiovisual y usan rasgos faciales o patrones vocales para inferir el género. La ONG sostiene que es imposible saber cómo una persona entiende su propio género a partir de esas medidas y que esos sistemas son potencialmente peligrosos. Politico Europe informó que el primer ministro húngaro Viktor OrbE1n autorizó la monitorización biométrica con IA en eventos locales del Orgullo, alegando que protegería a los niños de la "agenda LGBTQ+"; en la práctica, la medida permite vigilar a artistas, activistas y ciudadanos, y las instituciones de la Unión Europea están revisando la política.

Defensores de los derechos piden cambios concretos: asociaciones entre desarrolladores y representantes LGBTQ+, salvaguardas más estrictas contra el uso indebido de la vigilancia, la prohibición de sistemas que detecten o clasifiquen el género y la consulta a personas LGBTQ+ en todas las fases del desarrollo. Estos pasos buscan reducir daños y aumentar la probabilidad de que la IA sea útil y justa para más personas.