Ferramentas de inteligência artificial tornaram-se muito populares e, em abril, o ChatGPT atingiu um bilhão de utilizadores ativos por semana. Ao mesmo tempo, há relatos de danos causados por sistemas enviesados, como diferenças no tratamento médico conforme características demográficas e discriminação em processos de recrutamento.
Uma pesquisa da Universidade do Texas em Austin analisou 363 algoritmos que autores anteriores tinham identificado como tendenciosos. Os investigadores compararam cada algoritmo problemático com outro semelhante que não tinha sido apontado por viés e examinaram também as organizações que os criaram e usaram. Entre os autores está Hüseyin Tanriverdi, com John-Patrick Akinyemi.
Os resultados indicam que o viés muitas vezes surge porque os modelos simplificam demais a realidade e não capturam condições complexas. Os pesquisadores defendem abrir as caixas-pretas, incorporar entradas diversas e estabelecer verdades fundamentais claras para reduzir o viés.
Palavras difíceis
- enviesado — Que mostra preferência injusta contra gruposenviesados
- tendencioso — Que favorece um lado de forma injustatendenciosos
- algoritmo — Conjunto de regras usadas por um computadoralgoritmos
- discriminação — Tratamento injusto de pessoas por características
- recrutamento — Processo de seleção para empregos ou funções
- simplificar — Tornar algo menos complexo do que ésimplificam
- caixa-preta — Sistema cujo funcionamento interno é desconhecidocaixas-pretas
- incorporar — Incluir algo dentro de um sistema ou processo
Dica: passe o mouse, foque ou toque nas palavras destacadas no artigo para ver definições rápidas enquanto lê ou ouve.
Perguntas para discussão
- Você acha importante abrir as caixas-pretas de sistemas de IA? Por quê?
- Que tipos de entradas diversas seriam úteis em sistemas de IA usados no seu país?
- Como organizações podem evitar discriminação em processos de recrutamento que usam IA?
Artigos relacionados
Projetos que Usam Tecnologia para Combater a Desinformação em Eleições
Três projetos premiados demonstraram como a tecnologia pode ajudar a aumentar a transparência e a verificação de fatos nas eleições.
Montadoras chinesas de veículos elétricos expandem-se para a África
Montadoras chinesas de veículos elétricos procuram mercados fora dos EUA e Europa após tarifas e controles comerciais. Muitas investem na África como mercado consumidor e local de produção, enquanto governos locais oferecem incentivos e há riscos a considerar.
Aumento mais rápido do aquecimento global ligado a reduções de aerossóis na China
Melhorias na qualidade do ar na China podem ter acelerado o aquecimento global. A região da Ásia está aquecendo duas vezes mais rápido que a média mundial.
Jornalistas de ciência sob pressão durante a COVID-19
A COVID-19 destacou o papel dos jornalistas de ciência e suas condições de trabalho. Um novo relatório revela desafios e mudanças nessa área.
Imagens diretas revelam a complexidade de duas novas estelares
Astrônomos capturaram imagens diretas de duas novas pouco depois das erupções e descobriram fluxos múltiplos de gás e ejeções retardadas. As observações, com CHARA e dados do Fermi-LAT, foram publicadas em Nature Astronomy.
Monumento gigante em Aguada Fénix revela rituais maias
Em 2020 uma equipa liderada pela University of Arizona relatou em Aguada Fénix, Tabasco, um monumento maia enorme datado de 1,000 BCE. Escavações mostram um cosmograma, objetos cerimoniais e liderança colaborativa.