La inteligencia artificial y sus herramientas llegan a mucha gente y también causan problemas de sesgo. Un equipo de investigadores estudió un conjunto de algoritmos que otras personas habían señalado como sesgados. Compararon cada algoritmo problemático con otro similar que no tenía señal de sesgo.
El estudio explica tres razones que aumentan el riesgo de resultados injustos: falta de una verdad fundamental clara, simplificaciones que omiten variables importantes de la vida real, y diseño hecho mayoritariamente por un solo grupo. Cada razón dificulta que el modelo represente bien la realidad.
Los autores concluyen que reducir el sesgo requiere más que mejorar la precisión; hace falta diversidad en el diseño y mayor transparencia en los sistemas.
Palabras difíciles
- inteligencia artificial — programas y sistemas que hacen tareas humanas
- sesgo — error que causa trato injusto a personas
- algoritmo — reglas o pasos para resolver un problemaalgoritmos
- omitir — no incluir algo o dejarlo fueraomiten
- diversidad — variedad de personas u opiniones en grupo
- transparencia — clara información sobre cómo funciona un sistema
- precisión — qué tan correcto o exacto es algo
Consejo: pasa el cursor, enfoca o toca las palabras resaltadas en el artículo para ver definiciones rápidas mientras lees o escuchas.
Preguntas de discusión
- ¿Por qué crees que la diversidad en el diseño puede reducir el sesgo?
- ¿Has usado alguna vez una herramienta de inteligencia artificial? ¿Te pareció clara la información sobre cómo funciona?
Artículos relacionados
Sensor vestible detecta anticuerpos en 10 minutos
Investigadores de la University of Pittsburgh crearon un sensor vestible que detecta anticuerpos en diez minutos sin extracción de sangre. El dispositivo detecta anticuerpos de SARS-CoV-2 y H1N1 y aparece en la revista Analytical Chemistry.
Nueva herramienta de luz para medir actividad en células cerebrales
Científicos desarrollaron una herramienta basada en bioluminiscencia para medir la actividad dentro de células cerebrales vivas. La molécula llamada CaBLAM funciona en ratones y peces cebra y permite grabaciones continuas sin luz externa.
