La inteligencia artificial y sus herramientas llegan a mucha gente y también causan problemas de sesgo. Un equipo de investigadores estudió un conjunto de algoritmos que otras personas habían señalado como sesgados. Compararon cada algoritmo problemático con otro similar que no tenía señal de sesgo.
El estudio explica tres razones que aumentan el riesgo de resultados injustos: falta de una verdad fundamental clara, simplificaciones que omiten variables importantes de la vida real, y diseño hecho mayoritariamente por un solo grupo. Cada razón dificulta que el modelo represente bien la realidad.
Los autores concluyen que reducir el sesgo requiere más que mejorar la precisión; hace falta diversidad en el diseño y mayor transparencia en los sistemas.
Palabras difíciles
- inteligencia artificial — programas y sistemas que hacen tareas humanas
- sesgo — error que causa trato injusto a personas
- algoritmo — reglas o pasos para resolver un problemaalgoritmos
- omitir — no incluir algo o dejarlo fueraomiten
- diversidad — variedad de personas u opiniones en grupo
- transparencia — clara información sobre cómo funciona un sistema
- precisión — qué tan correcto o exacto es algo
Consejo: pasa el cursor, enfoca o toca las palabras resaltadas en el artículo para ver definiciones rápidas mientras lees o escuchas.
Preguntas de discusión
- ¿Por qué crees que la diversidad en el diseño puede reducir el sesgo?
- ¿Has usado alguna vez una herramienta de inteligencia artificial? ¿Te pareció clara la información sobre cómo funciona?
Artículos relacionados
Jóvenes innovadores abordan el agua contaminada con arsénico en India
Dos hermanos de Bihar, India, han desarrollado una tecnología para purificar agua contaminada con arsénico usando inteligencia artificial y sensores.
Uganda debe cerrar brechas de género y financiamiento en ciencia
Este artículo destaca la necesidad de reformas en Uganda para mejorar la inclusión de género y el financiamiento en investigación científica. Se enfatiza el papel de la ciencia y la tecnología en el desarrollo del país.
África impulsa la autosuficiencia sanitaria con AI y datos
En la CPHIA en Durban, expertos explicaron cómo la inteligencia artificial (AI) y las herramientas digitales pueden ayudar a Africa CDC a proteger a 1.4 billion de personas, mejorar la vigilancia y reforzar la gobernanza de datos.
Nuevo método sin ácidos para reciclar baterías de ion de litio
Investigadores de Rice University presentan FJH-ClO, un proceso en dos etapas que usa pulsos de calor y gases para recuperar litio, cobalto y grafito. Es libre de ácidos, ahorra energía y se probó en laboratorio.
IA que guía a estudiantes en suturas
Investigadores de Johns Hopkins desarrollaron una IA explicable que orienta a estudiantes de medicina mientras practican suturas. El sistema compara movimientos con cirujanos expertos y envía retroalimentación inmediata por mensaje de texto.
Cómo juzgan la llegada de coches las personas con pérdida de visión
Un estudio comparó a adultos con degeneración macular y a adultos con visión normal usando realidad virtual y sonidos de coche. Encontraron estimaciones similares y no hallaron ventaja cuando vista y sonido se combinaron.