La inteligencia artificial y sus herramientas llegan a mucha gente y también causan problemas de sesgo. Un equipo de investigadores estudió un conjunto de algoritmos que otras personas habían señalado como sesgados. Compararon cada algoritmo problemático con otro similar que no tenía señal de sesgo.
El estudio explica tres razones que aumentan el riesgo de resultados injustos: falta de una verdad fundamental clara, simplificaciones que omiten variables importantes de la vida real, y diseño hecho mayoritariamente por un solo grupo. Cada razón dificulta que el modelo represente bien la realidad.
Los autores concluyen que reducir el sesgo requiere más que mejorar la precisión; hace falta diversidad en el diseño y mayor transparencia en los sistemas.
Palabras difíciles
- inteligencia artificial — programas y sistemas que hacen tareas humanas
- sesgo — error que causa trato injusto a personas
- algoritmo — reglas o pasos para resolver un problemaalgoritmos
- omitir — no incluir algo o dejarlo fueraomiten
- diversidad — variedad de personas u opiniones en grupo
- transparencia — clara información sobre cómo funciona un sistema
- precisión — qué tan correcto o exacto es algo
Consejo: pasa el cursor, enfoca o toca las palabras resaltadas en el artículo para ver definiciones rápidas mientras lees o escuchas.
Preguntas de discusión
- ¿Por qué crees que la diversidad en el diseño puede reducir el sesgo?
- ¿Has usado alguna vez una herramienta de inteligencia artificial? ¿Te pareció clara la información sobre cómo funciona?
Artículos relacionados
Por qué los modelos fallan al multiplicar números largos
Una investigación analiza por qué modelos de lenguaje no pueden multiplicar números de varias cifras. Compararon el ajuste fino estándar con un método llamado cadena de pensamiento implícita (ICoT), que sí aprendió a guardar cálculos intermedios.
Lecitina y goma arábiga ayudan a la tilapia a resistir el frío
Investigadores probaron añadir lecitina y goma arábiga a la dieta de la tilapia para mejorar su crecimiento y supervivencia en temperaturas bajas. Los resultados muestran mejoras en metabolismo, enzimas y equilibrio mineral.
Células pequeñas y paredes fuertes ayudan al mangle a tolerar la sal
Un estudio sobre mangles muestra que células más pequeñas y paredes celulares gruesas ayudan a soportar inundaciones salinas. Los científicos analizaron muchas especies y proponen usar estos rasgos para diseñar plantas tolerantes a la sal.