Ferramentas de inteligência artificial tornaram-se muito populares e, em abril, o ChatGPT atingiu um bilhão de utilizadores ativos por semana. Ao mesmo tempo, há relatos de danos causados por sistemas enviesados, como diferenças no tratamento médico conforme características demográficas e discriminação em processos de recrutamento.
Uma pesquisa da Universidade do Texas em Austin analisou 363 algoritmos que autores anteriores tinham identificado como tendenciosos. Os investigadores compararam cada algoritmo problemático com outro semelhante que não tinha sido apontado por viés e examinaram também as organizações que os criaram e usaram. Entre os autores está Hüseyin Tanriverdi, com John-Patrick Akinyemi.
Os resultados indicam que o viés muitas vezes surge porque os modelos simplificam demais a realidade e não capturam condições complexas. Os pesquisadores defendem abrir as caixas-pretas, incorporar entradas diversas e estabelecer verdades fundamentais claras para reduzir o viés.
Palavras difíceis
- enviesado — Que mostra preferência injusta contra gruposenviesados
- tendencioso — Que favorece um lado de forma injustatendenciosos
- algoritmo — Conjunto de regras usadas por um computadoralgoritmos
- discriminação — Tratamento injusto de pessoas por características
- recrutamento — Processo de seleção para empregos ou funções
- simplificar — Tornar algo menos complexo do que ésimplificam
- caixa-preta — Sistema cujo funcionamento interno é desconhecidocaixas-pretas
- incorporar — Incluir algo dentro de um sistema ou processo
Dica: passe o mouse, foque ou toque nas palavras destacadas no artigo para ver definições rápidas enquanto lê ou ouve.
Perguntas para discussão
- Você acha importante abrir as caixas-pretas de sistemas de IA? Por quê?
- Que tipos de entradas diversas seriam úteis em sistemas de IA usados no seu país?
- Como organizações podem evitar discriminação em processos de recrutamento que usam IA?
Artigos relacionados
Escola de Quadrinhos de Zenica forma autores desde a guerra
A Escola de Quadrinhos de Zenica oferece formação artística há mais de 30 anos. Criada durante a guerra de 1992-95, formou cerca de 200 jovens, publica revistas e enfrenta mudanças com tablets e ferramentas de inteligência artificial.
Novartis apresenta GanLum, novo tratamento contra a malária
A Novartis anunciou o GanLum, com a molécula ganaplacide, que mostrou forte eficácia em ensaio final com mais de 1,600 pacientes. Pode reduzir a transmissão e enfrentar a resistência a medicamentos, e chegar ao mercado em 2027.
Especialistas: IA pode reduzir marketing do tabaco para jovens
No congresso em Dublin, especialistas disseram que a inteligência artificial pode ajudar a impedir que o setor do tabaco atraia jovens online. Relataram usos da IA em vários países e avisaram sobre novos produtos que exigem regras.