Por que a IA pode ficar tendenciosa ^{CEFR A2}

As ferramentas de inteligência artificial estão a crescer e a chegar a muitas pessoas. Em abril, o ChatGPT teve um enorme número de utilizadores por semana. Ao mesmo tempo, investigadores e jornalistas relataram que a IA causou danos por viés, por exemplo em tratamentos médicos e em ferramentas de recrutamento.

Uma pesquisa da Universidade do Texas em Austin estudou um conjunto de algoritmos identificados como tendenciosos. Os investigadores usaram um repositório de incidentes e compararam algoritmos problemáticos com outros semelhantes que não tinham sido apontados por viés.

Os autores dizem que o viés aparece quando os modelos não representam a complexidade do mundo real. Eles recomendam abrir as caixas-pretas dos modelos, incluir entradas diversas e clarificar verdades fundamentais.