Ferramentas de inteligência artificial tornaram-se muito populares e, em abril, o ChatGPT atingiu um bilhão de utilizadores ativos por semana. Ao mesmo tempo, há relatos de danos causados por sistemas enviesados, como diferenças no tratamento médico conforme características demográficas e discriminação em processos de recrutamento.
Uma pesquisa da Universidade do Texas em Austin analisou 363 algoritmos que autores anteriores tinham identificado como tendenciosos. Os investigadores compararam cada algoritmo problemático com outro semelhante que não tinha sido apontado por viés e examinaram também as organizações que os criaram e usaram. Entre os autores está Hüseyin Tanriverdi, com John-Patrick Akinyemi.
Os resultados indicam que o viés muitas vezes surge porque os modelos simplificam demais a realidade e não capturam condições complexas. Os pesquisadores defendem abrir as caixas-pretas, incorporar entradas diversas e estabelecer verdades fundamentais claras para reduzir o viés.
Palavras difíceis
- enviesado — Que mostra preferência injusta contra gruposenviesados
- tendencioso — Que favorece um lado de forma injustatendenciosos
- algoritmo — Conjunto de regras usadas por um computadoralgoritmos
- discriminação — Tratamento injusto de pessoas por características
- recrutamento — Processo de seleção para empregos ou funções
- simplificar — Tornar algo menos complexo do que ésimplificam
- caixa-preta — Sistema cujo funcionamento interno é desconhecidocaixas-pretas
- incorporar — Incluir algo dentro de um sistema ou processo
Dica: passe o mouse, foque ou toque nas palavras destacadas no artigo para ver definições rápidas enquanto lê ou ouve.
Perguntas para discussão
- Você acha importante abrir as caixas-pretas de sistemas de IA? Por quê?
- Que tipos de entradas diversas seriam úteis em sistemas de IA usados no seu país?
- Como organizações podem evitar discriminação em processos de recrutamento que usam IA?
Artigos relacionados
Algoritmos revelam como propano vira propileno
Pesquisadores da University of Rochester criaram algoritmos que mostram, ao nível atômico, como catalisadores nanométricos transformam propano em propileno. A descoberta explica crescimento de óxido em sítios metálicos e pode ajudar outras reações industriais.
