L'IA et les risques pour les personnes LGBTQ+ ^{CEFR B2}

L'intelligence artificielle gagne du terrain dans la vie quotidienne et suscite des débats. Un sondage mondial réalisé par Ipsos montre que 55 % des personnes interrogées estiment que les solutions alimentées par l'IA apportent plus d'avantages que d'inconvénients. Les investissements privés dans ce domaine ont fortement augmenté au cours de la dernière décennie, et les entreprises mettent en avant l'efficacité et la facilité d'utilisation de ces outils.

Mais ces progrès s'accompagnent de risques concrets pour les personnes LGBTQ+. Wired a rapporté que certains générateurs d'images, comme Midjourney, produisaient des représentations réductrices et nuisibles pour ces communautés. Les données d'internet contiennent des stéréotypes, et les modèles entraînés sur ces données ont tendance à les reproduire. L'UNESCO a examiné les hypothèses de plusieurs modèles et conclu que des outils largement utilisés, tels que Llama 2 de Meta et GPT-2 d'OpenAI, étaient façonnés par des attitudes hétéronormatives et produisaient du contenu négatif à propos des personnes gays plus de la moitié du temps lors de leurs simulations.

Les risques dépassent les seules sorties numériques. Forbidden Colours, une association belge, a décrit le fonctionnement des systèmes de « reconnaissance automatique du genre » qui analysent des matériaux audio-visuels et utilisent des traits du visage ou des modèles vocaux pour déduire le genre. L'association soutient qu'il est impossible de connaître la manière dont une personne comprend son propre genre à partir de ces mesures et que ces systèmes sont potentiellement dangereux.

Politico Europe a rapporté que le Premier ministre Viktor Orbán a autorisé une surveillance biométrique assistée par l'IA lors d'événements locaux de la Pride, affirmant que cela protégerait les enfants de « l'agenda LGBTQ+ ». En pratique, cette mesure permet au gouvernement et aux forces de l'ordre de surveiller des artistes, des militants et des citoyens ordinaires. Les institutions de l'Union européenne examinent la politique.

Des défenseurs réclament des changements concrets et une participation effective des personnes concernées. Ils demandent notamment :

• partenariats avec la communauté LGBTQ+;
• garanties contre les usages abusifs de la surveillance;
• interdiction des systèmes de détection ou de classification du genre;
• participation des personnes LGBTQ+ à la conception des outils.

Ces mesures visent à réduire les dommages et à augmenter les chances que l'IA devienne utile et équitable pour un plus grand nombre de personnes.