IA e responsabilità: chi decide e chi subisce ^{CEFR B1}

Hija Kamran, caporedattrice di GenderIT.org e stratega per i diritti nel Women's Rights Programme di APC, esprime cautela verso le nuove tecnologie. Racconta di essere spesso un'adozione tardiva e di osservare pattern preoccupanti nello sviluppo dei sistemi di IA.

Osserva che le aziende tecnologiche ripetutamente privilegiano modelli di business e pubblicità rispetto alle persone. Riporta una frase attribuita a un noto dirigente e la risposta di un rappresentante aziendale che le disse: «Incito le persone a leggere i nostri termini di servizio», una reazione che evidenzia scarsa trasparenza e responsabilità.

Spiega che la tecnologia non è neutra: sistemi progettati da attori specifici riflettono visioni del mondo particolari. I dati di addestramento, presi da Internet e registri pubblici, portano storie di esclusione, razzismo, sessismo e disuguaglianza economica; l'IA può codificare e amplificare questi danni.

Sottolinea anche il rischio di deumanizzazione, specialmente in contesti militarizzati in cui le persone diventano punti dati e bersagli. Propone un approccio basato sui diritti umani, scetticismo fin dalle prime fasi e domande chiare su chi costruisce i sistemi, come funzionano e chi ne trae vantaggio.