As ferramentas de inteligência artificial estão a crescer e a chegar a muitas pessoas. Em abril, o ChatGPT teve um enorme número de utilizadores por semana. Ao mesmo tempo, investigadores e jornalistas relataram que a IA causou danos por viés, por exemplo em tratamentos médicos e em ferramentas de recrutamento.
Uma pesquisa da Universidade do Texas em Austin estudou um conjunto de algoritmos identificados como tendenciosos. Os investigadores usaram um repositório de incidentes e compararam algoritmos problemáticos com outros semelhantes que não tinham sido apontados por viés.
Os autores dizem que o viés aparece quando os modelos não representam a complexidade do mundo real. Eles recomendam abrir as caixas-pretas dos modelos, incluir entradas diversas e clarificar verdades fundamentais.
Palavras difíceis
- inteligência artificial — programas ou máquinas que simulam pensamento humano
- viés — erro que favorece um grupo ou resposta
- investigador — pessoa que faz estudo ou pesquisainvestigadores
- repositório — lugar digital para guardar informação ou dados
- algoritmo — conjunto de regras ou passos em computadoralgoritmos
- modelo — representação de algo para fazer previsõesmodelos
- complexidade — característica de algo com muitas partes ou níveis
Dica: passe o mouse, foque ou toque nas palavras destacadas no artigo para ver definições rápidas enquanto lê ou ouve.
Perguntas para discussão
- Você já usou uma ferramenta de inteligência artificial? Como foi a experiência?
- Por que é importante incluir entradas diversas nos modelos?
- Você acha que os modelos devem ser mais claros para o público? Por quê?
Artigos relacionados
Projetos que Usam Tecnologia para Combater a Desinformação em Eleições
Três projetos premiados demonstraram como a tecnologia pode ajudar a aumentar a transparência e a verificação de fatos nas eleições.
Montadoras chinesas de veículos elétricos expandem-se para a África
Montadoras chinesas de veículos elétricos procuram mercados fora dos EUA e Europa após tarifas e controles comerciais. Muitas investem na África como mercado consumidor e local de produção, enquanto governos locais oferecem incentivos e há riscos a considerar.
Aumento mais rápido do aquecimento global ligado a reduções de aerossóis na China
Melhorias na qualidade do ar na China podem ter acelerado o aquecimento global. A região da Ásia está aquecendo duas vezes mais rápido que a média mundial.
Jornalistas de ciência sob pressão durante a COVID-19
A COVID-19 destacou o papel dos jornalistas de ciência e suas condições de trabalho. Um novo relatório revela desafios e mudanças nessa área.
Imagens diretas revelam a complexidade de duas novas estelares
Astrônomos capturaram imagens diretas de duas novas pouco depois das erupções e descobriram fluxos múltiplos de gás e ejeções retardadas. As observações, com CHARA e dados do Fermi-LAT, foram publicadas em Nature Astronomy.
Monumento gigante em Aguada Fénix revela rituais maias
Em 2020 uma equipa liderada pela University of Arizona relatou em Aguada Fénix, Tabasco, um monumento maia enorme datado de 1,000 BCE. Escavações mostram um cosmograma, objetos cerimoniais e liderança colaborativa.