As ferramentas de inteligência artificial expandem-se rapidamente e chegam a um grande número de utilizadores: em abril, o ChatGPT registou um bilhão de utilizadores ativos por semana. Entretanto, investigadores e jornalistas documentaram casos em que sistemas enviesados provocaram danos, como tratamentos médicos diferentes segundo características demográficas e ferramentas de recrutamento que discriminam candidatas mulheres e candidatos negros.
Uma nova pesquisa da Universidade do Texas em Austin estudou um conjunto de 363 algoritmos listados num repositório chamado AI Algorithmic and Automation Incidents and Controversies. Os investigadores, entre eles Hüseyin Tanriverdi e John-Patrick Akinyemi, compararam cada algoritmo problemático com um algoritmo semelhante que não tinha sido apontado por viés e analisaram também as organizações que os criaram e usaram.
O estudo identifica fatores que favorecem o viés. Entre eles está a ausência de uma verdade fundamental bem estabelecida, a simplificação excessiva que omite variáveis essenciais e a conceção dos sistemas por grupos demográficos pouco diversos. Como exemplo, os autores citam um caso no Arkansas em que decisões automatizadas sobre benefícios do Medicaid reduziram o acesso de pessoas com deficiência a ajuda diária, porque os algoritmos não captaram a informação que uma enfermeira obteria numa visita domiciliária.
- Falta de verdade fundamental clara
- Omissão de variáveis importantes
- Insuficiente envolvimento de partes interessadas
A conclusão é que reduzir o viés exige mais do que melhorar a precisão. Os desenvolvedores precisam de explicar a complexidade do mundo real, incorporar entradas diversas e estabelecer verdades fundamentais claras. A pesquisa foi publicada na MIS Quarterly. Fonte: UT Austin.
Palavras difíceis
- viés — tendência injusta que altera decisões
- repositório — local digital onde se guardam dados
- omissão — ato de deixar de incluir informação
- verdade fundamental — conjunto básico de fatos ou regras
- simplificação — redução de complexidade que perde detalhes
- conceção — processo de desenhar ou planear sistemas
- partes interessadas — pessoas ou grupos afetados por decisão
- incorporar — incluir algo dentro de um sistema
Dica: passe o mouse, foque ou toque nas palavras destacadas no artigo para ver definições rápidas enquanto lê ou ouve.
Perguntas para discussão
- Que dificuldades existem para estabelecer uma verdade fundamental clara em sistemas automatizados?
- De que forma a falta de diversidade nos grupos de conceção pode afetar resultados de algoritmos na sua comunidade?
- Que medidas práticas poderiam ajudar a incorporar entradas diversas e reduzir o viés em ferramentas de recrutamento ou saúde?
Artigos relacionados
Temporizadores moleculares ajudam a formar memórias
Uma pesquisa publicada na revista Nature mostra que vários temporizadores moleculares controlam se impressões de curto prazo viram memórias de longo prazo. O tálamo aparece como um ponto central e há possíveis implicações para tratamentos.
Yale identifica rotas que geram anticorpos IgA no intestino
Pesquisadores de Yale descobriram duas vias que produzem anticorpos IgA no intestino. A maior parte da IgA inicial não vem dos centros germinativos, mas as duas rotas têm especificidade e mutações semelhantes; o achado pode ajudar vacinas mucosas.
Connie Nshemereirwe e a ciência em África
Connie Nshemereirwe, especialista em avaliação educacional e ex‑engenheira, defende que a agenda de investigação em África deve surgir das bases. Fala também sobre comunicação científica e sobre as consequências do encerramento das escolas durante a pandemia.