L'IA n'est pas neutre et touche les droits humains ^{CEFR B2}

Ce texte s'appuie sur une contribution de Hija Kamran à la série « Ne demandez pas à l'IA, demandez à un pair » et fait partie du Spotlight d'avril 2026 de Global Voices. L'auteure, qui se dit souvent adoptante tardive, explique pourquoi elle reste prudente face aux nouvelles technologies.

Kamran soutient que les entreprises technologiques montrent à plusieurs reprises que leur engagement principal va aux modèles économiques et non aux personnes. Elle cite des réponses célèbres et représentatives — « Sénateur, nous diffusons des publicités. » et « J'encourage les gens à lire nos conditions d'utilisation. » — pour montrer un manque de transparence et de responsabilité.

Elle souligne que la technologie n'est pas neutre et qu'elle peut renforcer des structures patriarcales et coloniales. Les données d'entraînement proviennent d'internet et d'archives publiques et portent les marques du racisme, du sexisme et des inégalités économiques ; quand l'IA apprend de ces données, elle peut encoder et amplifier ces préjugés. Les incitations au profit, les actionnaires et les objectifs de croissance façonnent le développement, la vitesse de mise sur le marché et les terres, savoirs ou vies qui seront affectés — des « dommages collatéraux », selon l'article.

Kamran met en garde contre la déshumanisation, notamment dans des contextes militarisés où des personnes sont réduites à des points de données. Les systèmes d'IA ne comprennent pas le contexte, l'histoire ni la responsabilité : ils génèrent des résultats à partir de probabilités et imitent des schémas humains sans pouvoir être humains. Elle appelle à une approche fondée sur les droits humains, à un scepticisme dès les premières étapes, et propose de poser trois questions simples :

• Qui a construit le système ?
• Comment fonctionne-t-il ?
• Qui en bénéficie ?

Hija Kamran (she/her) est rédactrice en chef de GenderIT.org et stratège en plaidoyer au sein du Women’s Rights Programme de l'APC.