As ferramentas de inteligência artificial estão a crescer e a chegar a muitas pessoas. Em abril, o ChatGPT teve um enorme número de utilizadores por semana. Ao mesmo tempo, investigadores e jornalistas relataram que a IA causou danos por viés, por exemplo em tratamentos médicos e em ferramentas de recrutamento.
Uma pesquisa da Universidade do Texas em Austin estudou um conjunto de algoritmos identificados como tendenciosos. Os investigadores usaram um repositório de incidentes e compararam algoritmos problemáticos com outros semelhantes que não tinham sido apontados por viés.
Os autores dizem que o viés aparece quando os modelos não representam a complexidade do mundo real. Eles recomendam abrir as caixas-pretas dos modelos, incluir entradas diversas e clarificar verdades fundamentais.
Palavras difíceis
- inteligência artificial — programas ou máquinas que simulam pensamento humano
- viés — erro que favorece um grupo ou resposta
- investigador — pessoa que faz estudo ou pesquisainvestigadores
- repositório — lugar digital para guardar informação ou dados
- algoritmo — conjunto de regras ou passos em computadoralgoritmos
- modelo — representação de algo para fazer previsõesmodelos
- complexidade — característica de algo com muitas partes ou níveis
Dica: passe o mouse, foque ou toque nas palavras destacadas no artigo para ver definições rápidas enquanto lê ou ouve.
Perguntas para discussão
- Você já usou uma ferramenta de inteligência artificial? Como foi a experiência?
- Por que é importante incluir entradas diversas nos modelos?
- Você acha que os modelos devem ser mais claros para o público? Por quê?
Artigos relacionados
Andaime sem materiais animais cria tecido parecido com o cérebro
Pesquisadores cultivaram tecido funcional semelhante ao cérebro sem usar materiais de origem animal nem revestimentos. O trabalho, liderado por Iman Noshadi, usa um andaime de PEG poroso que permite testar medicamentos e reduzir o uso de animais.
Como o musaranho encolhe o cérebro no inverno
Dois estudos mostram que o musaranho-europeu comum reduz o tamanho do cérebro e de outros órgãos no inverno (fenômeno de Dehnel) e depois regenera-os na primavera. Pesquisadores ligaram alterações genéticas e cromossômicas a esse processo.
Oxitocina aumenta em jogos de futebol entre grupos
Investigadores da Universidade de Zurique mediram oxitocina em jogadores Tsimane na Amazónia boliviana. Os níveis subiram mais após jogos contra rivais familiares e também quando jogaram contra não‑Tsimane; houve diferenças entre homens e mulheres.
