IA e responsabilità: chi decide e chi subisce ^{CEFR B2}

Hija Kamran descrive come gli incentivi aziendali e la mancanza di trasparenza condizionino lo sviluppo e la diffusione dell'IA. Ricorda osservazioni pubbliche che danno priorità alla pubblicità e racconta la risposta di un rappresentante aziendale: «Incito le persone a leggere i nostri termini di servizio», esempio di un approccio che secondo lei scarica responsabilità e nasconde conseguenze reali.

Spiega che la tecnologia non è neutra perché i sistemi sono progettati da persone con visioni del mondo definite e perché i dati di addestramento, tratti da Internet e da registri pubblici, riflettono storie di esclusione, razzismo, sessismo e disuguaglianza economica. Inoltre osserva che motivi di profitto, azionisti e obiettivi di crescita influenzano quali problemi vengono considerati prioritari, la rapidità del lancio dei prodotti e quali terre, saperi o vite risultano coinvolti o danneggiati, definiti come «danni collaterali».

Kamran avverte del rischio di deumanizzazione: in contesti militarizzati le persone possono ridursi a punti dati e diventare bersagli. Ricorda che i sistemi di IA generano output basati su probabilità, non comprendono contesto, storia o responsabilità; possono imitare schemi umani ma non provare cura né mantenere relazioni.

Per questo propone un approccio fondato sui diritti umani che trasferisca responsabilità a chi detiene il potere e invita a scetticismo fin dalle prime fasi di sviluppo e commercializzazione. Consiglia di porre domande precise:

• Chi ha costruito il sistema?
• Come funziona e quali dati usa?
• Chi beneficia e chi può essere danneggiato?

Hija Kamran (she/her) è caporedattrice di GenderIT.org e stratega per la difesa dei diritti all'interno del Women's Rights Programme di APC.