As ferramentas de inteligência artificial estão a crescer e a chegar a muitas pessoas. Em abril, o ChatGPT teve um enorme número de utilizadores por semana. Ao mesmo tempo, investigadores e jornalistas relataram que a IA causou danos por viés, por exemplo em tratamentos médicos e em ferramentas de recrutamento.
Uma pesquisa da Universidade do Texas em Austin estudou um conjunto de algoritmos identificados como tendenciosos. Os investigadores usaram um repositório de incidentes e compararam algoritmos problemáticos com outros semelhantes que não tinham sido apontados por viés.
Os autores dizem que o viés aparece quando os modelos não representam a complexidade do mundo real. Eles recomendam abrir as caixas-pretas dos modelos, incluir entradas diversas e clarificar verdades fundamentais.
Palavras difíceis
- inteligência artificial — programas ou máquinas que simulam pensamento humano
- viés — erro que favorece um grupo ou resposta
- investigador — pessoa que faz estudo ou pesquisainvestigadores
- repositório — lugar digital para guardar informação ou dados
- algoritmo — conjunto de regras ou passos em computadoralgoritmos
- modelo — representação de algo para fazer previsõesmodelos
- complexidade — característica de algo com muitas partes ou níveis
Dica: passe o mouse, foque ou toque nas palavras destacadas no artigo para ver definições rápidas enquanto lê ou ouve.
Perguntas para discussão
- Você já usou uma ferramenta de inteligência artificial? Como foi a experiência?
- Por que é importante incluir entradas diversas nos modelos?
- Você acha que os modelos devem ser mais claros para o público? Por quê?
Artigos relacionados
Algoritmos revelam como propano vira propileno
Pesquisadores da University of Rochester criaram algoritmos que mostram, ao nível atômico, como catalisadores nanométricos transformam propano em propileno. A descoberta explica crescimento de óxido em sítios metálicos e pode ajudar outras reações industriais.
Temporizadores moleculares ajudam a formar memórias
Uma pesquisa publicada na revista Nature mostra que vários temporizadores moleculares controlam se impressões de curto prazo viram memórias de longo prazo. O tálamo aparece como um ponto central e há possíveis implicações para tratamentos.
IA e fotos de cidadãos identificam Anopheles stephensi em Madagascar
Pesquisadores usaram Inteligência Artificial e fotografias de cidadãos para identificar o que acreditam ser o primeiro Anopheles stephensi detectado em Madagascar. A imagem foi tirada em 2020 e revista dois anos depois; a OMS alerta para a ameaça desta espécie.
