La complejidad del mundo real produce sesgo en la IA ^{CEFR B2}

Las herramientas de inteligencia artificial crecen con rapidez y llegan a millones de personas. En ese contexto, investigadores de la Universidad de Texas en Austin estudiaron por qué surge sesgo en sistemas automatizados. El equipo, con Hüseyin Tanriverdi y el doctorando John-Patrick Akinyemi en McCombs, analizó un conjunto de 363 algoritmos que otros habían identificado como sesgados, tomados de un repositorio llamado AI Algorithmic and Automation Incidents and Controversies. Para cada algoritmo problemático compararon uno similar que no había sido señalado, y examinaron también las organizaciones que los desarrollaron y usaron.

El estudio identifica tres factores relacionados que elevan la probabilidad de resultados injustos. Primero, cuando no existe una verdad fundamental bien establecida (por ejemplo, estimar edad u opiniones tratadas como hechos), aumenta la probabilidad de sesgo. Segundo, la complejidad del mundo real se pierde cuando los modelos omiten variables relevantes; los autores citan el caso en Arkansas donde la sustitución de visitas domiciliarias de enfermeras por decisiones automatizadas redujo el acceso a apoyos para personas con discapacidad. Tercero, la falta de participación diversa de las partes interesadas puede ocultar objetivos en conflicto y limitar soluciones de compromiso.

Los investigadores concluyen que reducir el sesgo requiere más que mejorar la precisión: es preciso abrir las cajas negras, tener en cuenta la complejidad del mundo real, incluir diversidad de insumos y definir verdades fundamentales claras. Tanriverdi afirma que estos factores afectan directamente la equidad y son piezas faltantes que muchos científicos de datos ignoran. La investigación aparece en MIS Quarterly. Fuente: UT Austin