La inteligencia artificial y sus herramientas llegan a mucha gente y también causan problemas de sesgo. Un equipo de investigadores estudió un conjunto de algoritmos que otras personas habían señalado como sesgados. Compararon cada algoritmo problemático con otro similar que no tenía señal de sesgo.
El estudio explica tres razones que aumentan el riesgo de resultados injustos: falta de una verdad fundamental clara, simplificaciones que omiten variables importantes de la vida real, y diseño hecho mayoritariamente por un solo grupo. Cada razón dificulta que el modelo represente bien la realidad.
Los autores concluyen que reducir el sesgo requiere más que mejorar la precisión; hace falta diversidad en el diseño y mayor transparencia en los sistemas.
Palabras difíciles
- inteligencia artificial — programas y sistemas que hacen tareas humanas
- sesgo — error que causa trato injusto a personas
- algoritmo — reglas o pasos para resolver un problemaalgoritmos
- omitir — no incluir algo o dejarlo fueraomiten
- diversidad — variedad de personas u opiniones en grupo
- transparencia — clara información sobre cómo funciona un sistema
- precisión — qué tan correcto o exacto es algo
Consejo: pasa el cursor, enfoca o toca las palabras resaltadas en el artículo para ver definiciones rápidas mientras lees o escuchas.
Preguntas de discusión
- ¿Por qué crees que la diversidad en el diseño puede reducir el sesgo?
- ¿Has usado alguna vez una herramienta de inteligencia artificial? ¿Te pareció clara la información sobre cómo funciona?
Artículos relacionados
Centros de datos en Indonesia y la presión sobre el agua
El rápido crecimiento de centros de datos en Indonesia, impulsado por la IA, plantea preocupaciones sobre el uso del agua. En Batam la demanda de refrigeración y protestas locales muestran la tensión entre desarrollo y suministro hídrico.
IA ayuda a detectar melanoma con imágenes 3D
Investigadores de la University of Missouri prueban si la inteligencia artificial puede ayudar a detectar el melanoma mediante el análisis de fotografías 3D de la piel. La IA sería una herramienta de apoyo para identificar casos que requieren atención médica.
Cómo las raíces penetran suelos compactados
La compactación del suelo dificulta el crecimiento de cultivos. Investigadores explican cómo las raíces se hinchan y refuerzan su capa exterior para abrirse paso; experimentos en arroz muestran que un factor de transcripción mejora la penetración.