Plusieurs organisations en Amérique latine développent des systèmes d'IA locaux pour étudier les violences sexistes et les inégalités de genre. Elles veulent des outils ouverts qui protègent les données sensibles et donnent de meilleures preuves aux gouvernements et à la société civile. Selon les militantes, de nombreux algorithmes des grandes entreprises ne reflètent pas les réalités locales et peuvent produire des biais liés au genre, à la race, à l'âge ou au handicap.
DataGénero, en Argentine, a développé AymurAI, installé sur des serveurs locaux pour garantir la sécurité et la confidentialité. Le programme collecte des informations dans les documents judiciaires sans les interpréter et envoie exactement ce qu’il trouve vers une base de données. AymurAI est utilisé depuis 2021 en Argentine, au Chili et au Costa Rica et contient plus de 10,000 jugements. Il a reçu des financements de l'IDRC et de la Patrick McGovern Foundation.
Au Mexique, PIT Policy Lab a travaillé avec l'État de Guanajuato et a constaté que 4,000 jeunes avaient été mal identifiés comme non à risque. Les équipes introduisent des outils open source pour détecter les biais et proposent des formations sur les droits humains et le genre. Des experts insistent sur la nécessité d'utiliser des modèles et des données locales, car les comportements varient selon la culture.
Mots difficiles
- intelligence — Capacité d'apprendre et de comprendre.intelligence artificielle
- violence — Acte de blesser quelqu'un physiquement.violences
- biais — Tendance à avoir une opinion injuste.
- données — Informations collectées et analysées.
- inégalités — Différence entre deux choses.
- politiques — Règles pour gérer un pays ou une organisation.
- technologies — Outils ou méthodes avancés pour réaliser des tâches.
- décideurs — Groupe de personnes qui prennent des décisions.
Astuce : survolez, mettez le focus ou touchez les mots en surbrillance dans l’article pour voir des définitions rapides pendant que vous lisez ou écoutez.
Questions de discussion
- Comment l'intelligence artificielle peut-elle aider à l'égalité ?
- Quels autres domaines pourraient bénéficier des femmes dans la technologie ?
- Pourquoi est-il important de reformer les politiques publiques ?
- Comment les biais dans l'IA peuvent-ils affecter la société ?
Articles liés
Deux systèmes égyptiens contre la poussière sur panneaux solaires
Des chercheurs égyptiens ont conçu deux systèmes inspirés de la nature pour limiter l’encrassement des panneaux solaires. Des essais montrent moins de pertes d’efficacité grâce à des vibrations, un nano-revêtement et un montage souple animé par le vent.
Comment rendre les modèles de langage plus sûrs
Des chercheurs de North Carolina State University étudient l’alignement de sécurité des grands modèles de langage. Ils identifient un problème d’alignement superficiel et proposent de « geler » des neurones clés pour réduire les mauvaises réponses tout en conservant la performance.
Des essaims d'oiseaux pour aider l'IA à mieux résumer
Des chercheurs de New York University ont créé un prétraitement inspiré des essaims d'oiseaux pour rendre les résumés automatisés plus fidèles aux documents sources. La méthode réduit la redondance et diminue le risque d'hallucination de l'IA.
Nouvelle caisse locale améliore la fermentation du cacao en Ouganda
À Kasawo, une caisse de fermentation fabriquée localement améliore la qualité du cacao et permet aux agriculteurs de mieux vendre et d’augmenter leurs revenus. Les chercheurs travaillent à améliorer le design et à étendre la distribution.