L'IA n'est pas neutre et touche les droits humains ^{CEFR B1}

Hija Kamran, contributrice à une série sur l'IA, dit qu'elle reste prudente face aux nouvelles technologies. Selon elle, les entreprises montrent que leur priorité va souvent aux modèles économiques plutôt qu'aux personnes et à la responsabilité publique.

Kamran cite des réponses d'acteurs technologiques — par exemple la phrase « Sénateur, nous diffusons des publicités. » et l'invitation à « lire nos conditions d'utilisation » — pour illustrer un manque de transparence et de responsabilité effective.

Elle explique que la technologie n'est pas neutre : les systèmes sont conçus par des acteurs précis et les données d'entraînement, issues d'internet et d'archives publiques, reflètent le racisme, le sexisme et l'exclusion. Les incitations au profit et les objectifs de croissance influencent les priorités, la vitesse de mise sur le marché et les terres, savoirs ou vies affectés ; l'article parle de « dommages collatéraux ».

Kamran met aussi en garde contre la déshumanisation, notamment en contextes militarisés où des personnes deviennent des points de données. Elle appelle à une approche fondée sur les droits humains, au scepticisme dès les premières étapes, et recommande de se poser trois questions essentielles sur tout système.