La inteligencia artificial y sus herramientas llegan a mucha gente y también causan problemas de sesgo. Un equipo de investigadores estudió un conjunto de algoritmos que otras personas habían señalado como sesgados. Compararon cada algoritmo problemático con otro similar que no tenía señal de sesgo.
El estudio explica tres razones que aumentan el riesgo de resultados injustos: falta de una verdad fundamental clara, simplificaciones que omiten variables importantes de la vida real, y diseño hecho mayoritariamente por un solo grupo. Cada razón dificulta que el modelo represente bien la realidad.
Los autores concluyen que reducir el sesgo requiere más que mejorar la precisión; hace falta diversidad en el diseño y mayor transparencia en los sistemas.
Palabras difíciles
- inteligencia artificial — programas y sistemas que hacen tareas humanas
- sesgo — error que causa trato injusto a personas
- algoritmo — reglas o pasos para resolver un problemaalgoritmos
- omitir — no incluir algo o dejarlo fueraomiten
- diversidad — variedad de personas u opiniones en grupo
- transparencia — clara información sobre cómo funciona un sistema
- precisión — qué tan correcto o exacto es algo
Consejo: pasa el cursor, enfoca o toca las palabras resaltadas en el artículo para ver definiciones rápidas mientras lees o audicións.
Preguntas de discusión
- ¿Por qué crees que la diversidad en el diseño puede reducir el sesgo?
- ¿Has usado alguna vez una herramienta de inteligencia artificial? ¿Te pareció clara la información sobre cómo funciona?
Artículos relacionados
Nuevo método mejora la ecografía para diferenciar masas mamarias
Investigadores desarrollan un método de procesamiento de ultrasonido que distingue quistes con líquido de masas sólidas en ecografías. En pruebas clínicas, la técnica aumentó la identificación correcta de las masas y recibió financiación federal.
Crean un gel sintético para estudiar el tejido mamario
Ante la falta de un gel de laboratorio durante la pandemia, investigadores de UC Santa Barbara desarrollaron un gel basado en algas que apoya células mamarias y se puede modificar para estudiar cómo el entorno físico influye en su crecimiento.
IA para mejorar el acceso a la salud sexual en América Latina
Grupos e investigadores en América Latina usan inteligencia artificial para ofrecer información sobre salud sexual y reproductiva a jóvenes y comunidades marginadas. Proyectos en Perú y Argentina buscan reducir barreras y enfrentan retos como el sesgo de datos.