Investigadores de la Universidad de Texas en Austin analizaron un conjunto de algoritmos que habían sido identificados como sesgados. El equipo, que incluyó a Hüseyin Tanriverdi y al candidato a doctorado John-Patrick Akinyemi en McCombs, comparó cada algoritmo problemático con otro parecido que no había sido señalado. También revisaron las organizaciones que crearon y usaron esos sistemas.
El estudio identifica tres factores relacionados que aumentan el riesgo de resultados injustos. Primero, la ausencia de una verdad fundamental clara complica la tarea en casos como interpretar opiniones o estimar rasgos sin método establecido. Segundo, los modelos simplifican la realidad y a veces omiten variables clave; un ejemplo citad o es el cambio en Arkansas que sustituyó visitas de enfermeras por decisiones automatizadas y redujo el acceso a ayuda para personas con discapacidad. Tercero, cuando un solo grupo diseña sistemas para grupos diversos, pueden aparecer objetivos en conflicto.
Los autores sostienen que remediar el sesgo exige abrir las cajas negras, incorporar diversidad de insumos y considerar mejor la complejidad del mundo real.
Palabras difíciles
- algoritmo — procedimiento lógico para resolver un problemaalgoritmos
- sesgo — preferencia o error que afecta un resultadosesgados
- ausencia — falta o carencia de una cosa necesaria
- interpretar — dar significado o explicar información o datos
- modelo — representación simplificada de la realidadmodelos
- variable — elemento o factor que puede cambiarvariables
- acceso — posibilidad de usar o recibir algo
- remediar — corregir o solucionar un problema
- caja negra — sistema cuyo funcionamiento interno no se vecajas negras
Consejo: pasa el cursor, enfoca o toca las palabras resaltadas en el artículo para ver definiciones rápidas mientras lees o escuchas.
Preguntas de discusión
- ¿Cómo podría ayudar abrir las cajas negras a reducir el sesgo en los sistemas?
- ¿Por qué la ausencia de una verdad clara complica tareas como estimar rasgos u opiniones?
- ¿Conoces un ejemplo donde una decisión automatizada haya cambiado el acceso a servicios en tu comunidad? Explica brevemente.
Artículos relacionados
Jóvenes innovadores abordan el agua contaminada con arsénico en India
Dos hermanos de Bihar, India, han desarrollado una tecnología para purificar agua contaminada con arsénico usando inteligencia artificial y sensores.
Uganda debe cerrar brechas de género y financiamiento en ciencia
Este artículo destaca la necesidad de reformas en Uganda para mejorar la inclusión de género y el financiamiento en investigación científica. Se enfatiza el papel de la ciencia y la tecnología en el desarrollo del país.
África impulsa la autosuficiencia sanitaria con AI y datos
En la CPHIA en Durban, expertos explicaron cómo la inteligencia artificial (AI) y las herramientas digitales pueden ayudar a Africa CDC a proteger a 1.4 billion de personas, mejorar la vigilancia y reforzar la gobernanza de datos.
Nuevo método sin ácidos para reciclar baterías de ion de litio
Investigadores de Rice University presentan FJH-ClO, un proceso en dos etapas que usa pulsos de calor y gases para recuperar litio, cobalto y grafito. Es libre de ácidos, ahorra energía y se probó en laboratorio.
IA que guía a estudiantes en suturas
Investigadores de Johns Hopkins desarrollaron una IA explicable que orienta a estudiantes de medicina mientras practican suturas. El sistema compara movimientos con cirujanos expertos y envía retroalimentación inmediata por mensaje de texto.
Cómo juzgan la llegada de coches las personas con pérdida de visión
Un estudio comparó a adultos con degeneración macular y a adultos con visión normal usando realidad virtual y sonidos de coche. Encontraron estimaciones similares y no hallaron ventaja cuando vista y sonido se combinaron.