La inteligencia artificial y sus herramientas llegan a mucha gente y también causan problemas de sesgo. Un equipo de investigadores estudió un conjunto de algoritmos que otras personas habían señalado como sesgados. Compararon cada algoritmo problemático con otro similar que no tenía señal de sesgo.
El estudio explica tres razones que aumentan el riesgo de resultados injustos: falta de una verdad fundamental clara, simplificaciones que omiten variables importantes de la vida real, y diseño hecho mayoritariamente por un solo grupo. Cada razón dificulta que el modelo represente bien la realidad.
Los autores concluyen que reducir el sesgo requiere más que mejorar la precisión; hace falta diversidad en el diseño y mayor transparencia en los sistemas.
Palabras difíciles
- inteligencia artificial — programas y sistemas que hacen tareas humanas
- sesgo — error que causa trato injusto a personas
- algoritmo — reglas o pasos para resolver un problemaalgoritmos
- omitir — no incluir algo o dejarlo fueraomiten
- diversidad — variedad de personas u opiniones en grupo
- transparencia — clara información sobre cómo funciona un sistema
- precisión — qué tan correcto o exacto es algo
Consejo: pasa el cursor, enfoca o toca las palabras resaltadas en el artículo para ver definiciones rápidas mientras lees o audicións.
Preguntas de discusión
- ¿Por qué crees que la diversidad en el diseño puede reducir el sesgo?
- ¿Has usado alguna vez una herramienta de inteligencia artificial? ¿Te pareció clara la información sobre cómo funciona?
Artículos relacionados
Periodistas piden ayuda contra noticias falsas de IA
Representantes de medios de países de ingresos bajos y medios pidieron a periodistas chinos ayuda en el Foro de la Franja y la Ruta para combatir noticias falsas generadas por inteligencia artificial y exigir etiquetas en plataformas.
Simulaciones cuánticas muestran cómo la luz UV altera el hielo
Investigadores usaron simulaciones de mecánica cuántica para entender cómo la luz ultravioleta cambia la química del hielo. Los resultados ayudan a explicar experimentos antiguos y tienen implicaciones para el permafrost y lunas heladas.
Planetas áridos: cuánta agua se necesita para la vida
Investigaciones recientes muestran que los planetas secos fuera del sistema solar probablemente no puedan sostener vida. Un planeta del tamaño de la Tierra necesita una parte significativa del agua de nuestros océanos para mantener un ciclo geológico que conserve agua en la superficie.