بحث من جامعة تكساس عن أسباب تحيّز أنظمة الذكاء الاصطناعي ^{CEFR B2}

خلص الفريق إلى أن التحيّز قد ينشأ عندما لا تمثّل النماذج تعقيدات العالم الحقيقي. حددوا ثلاث مشكلات رئيسية:

• غياب "حقيقة أساسية" معتمدة، كما في محاولة تقدير عمر العظم من صورة أشعة أو تحويل آراء متباينة على الإنترنت إلى حقائق.
• تبسيط الواقع وحذف متغيرات مهمة، ما أدى في أركنساس إلى استبدال زيارات الممرضات بقرارات مؤتمتة في برنامج Medicaid وحرمان بعض ذوي الإعاقة من المساعدة في الأكل والاستحمام.
• غياب مشاركة أصحاب مصلحة مختلِفين، ما يجعل الأنظمة متحيّزة عندما يصممها بشكل أساسي مجموعة ديموغرافية واحدة.

تخلص الدراسة إلى أن تقليل التحيّز يحتاج أكثر من تحسين الدقة: على المطوّرين فتح الصناديق السوداء، تضمين مدخلات متنوعة، وتوضيح الحقائق الأساسية. نُشرت الدراسة في MIS Quarterly، والمصدر UT Austin.