Ferramentas de inteligência artificial tornaram-se muito populares e, em abril, o ChatGPT atingiu um bilhão de utilizadores ativos por semana. Ao mesmo tempo, há relatos de danos causados por sistemas enviesados, como diferenças no tratamento médico conforme características demográficas e discriminação em processos de recrutamento.
Uma pesquisa da Universidade do Texas em Austin analisou 363 algoritmos que autores anteriores tinham identificado como tendenciosos. Os investigadores compararam cada algoritmo problemático com outro semelhante que não tinha sido apontado por viés e examinaram também as organizações que os criaram e usaram. Entre os autores está Hüseyin Tanriverdi, com John-Patrick Akinyemi.
Os resultados indicam que o viés muitas vezes surge porque os modelos simplificam demais a realidade e não capturam condições complexas. Os pesquisadores defendem abrir as caixas-pretas, incorporar entradas diversas e estabelecer verdades fundamentais claras para reduzir o viés.
Palavras difíceis
- enviesado — Que mostra preferência injusta contra gruposenviesados
- tendencioso — Que favorece um lado de forma injustatendenciosos
- algoritmo — Conjunto de regras usadas por um computadoralgoritmos
- discriminação — Tratamento injusto de pessoas por características
- recrutamento — Processo de seleção para empregos ou funções
- simplificar — Tornar algo menos complexo do que ésimplificam
- caixa-preta — Sistema cujo funcionamento interno é desconhecidocaixas-pretas
- incorporar — Incluir algo dentro de um sistema ou processo
Dica: passe o mouse, foque ou toque nas palavras destacadas no artigo para ver definições rápidas enquanto lê ou ouve.
Perguntas para discussão
- Você acha importante abrir as caixas-pretas de sistemas de IA? Por quê?
- Que tipos de entradas diversas seriam úteis em sistemas de IA usados no seu país?
- Como organizações podem evitar discriminação em processos de recrutamento que usam IA?
Artigos relacionados
Cortes na ajuda internacional em 2025 põem saúde global em risco
Em 2025, cortes substanciais na ajuda internacional — iniciados com a suspensão de contratos pelos EUA em 20 de janeiro — interromperam serviços de saúde e humanitários, deixando muitos países vulneráveis, segundo investigações e relatórios.
Yale identifica rotas que geram anticorpos IgA no intestino
Pesquisadores de Yale descobriram duas vias que produzem anticorpos IgA no intestino. A maior parte da IgA inicial não vem dos centros germinativos, mas as duas rotas têm especificidade e mutações semelhantes; o achado pode ajudar vacinas mucosas.
