Autora alerta sobre IA, lucro e danos humanos ^{CEFR B2}

Esta contribuição de Hija Kamran integra a série “Não pergunte à IA, pergunte a um par”, resultado da colaboração entre Global Voices, a Association for Progressive Communication (APC) e o GenderIT, e também integra a série Spotlight de abril de 2026 do Global Voices. Kamran diz que o seu trabalho a torna cautelosa e que costuma ser uma adotante tardia de novas tecnologias.

A autora argumenta que as empresas de tecnologia mostram repetidamente que priorizam modelos de negócio em vez das pessoas. Cita a célebre frase atribuída a Mark Zuckerberg — “Senador, nós veiculamos anúncios” — e relata a resposta de um representante empresarial: “Incentivo as pessoas a ler nossos termos de serviço”. Kamran interpreta essas respostas como sinais de falta de transparência e de responsabilização.

O texto afirma que a tecnologia não é neutra e que reforça estruturas de poder patriarcais e coloniais. Os sistemas são desenhados por atores com visões específicas e os dados de treino, vindos da internet e de registos públicos, trazem histórias de exclusão, racismo, sexismo e desigualdade económica. Incentivos corporativos — lucro, acionistas e metas de crescimento — moldam que problemas são priorizados, a velocidade de lançamento e cujas terras, conhecimentos ou vidas são afetadas, criando o que o artigo chama de “danos colaterais”.

Kamran também destaca o risco de desumanização: em contextos militarizados, pessoas podem ser reduzidas a pontos de dados e tratadas como alvos. Sublinha que sistemas de IA geram respostas a partir de probabilidades, não compreendem contexto, história ou responsabilidade, e não podem cuidar ou manter relações humanas. Por isso defende uma abordagem baseada em direitos humanos que desloque a responsabilização para quem detém poder, e recomenda ceticismo desde as fases iniciais e perguntas sobre quem construiu, como funciona e quem beneficia.

Hija Kamran é editora‑chefe do GenderIT.org e estrategista de advocacy no Women’s Rights Programme da APC.