Onderzoekers: AI-bias komt door te simpele modellen ^{CEFR B2}

Kunstmatige-intelligentietools groeien snel en bereiken een groot publiek. Tegelijkertijd documenteren onderzoekers en journalisten schade veroorzaakt door bevooroordeelde systemen, zoals verschillende medische behandelingen op basis van demografische kenmerken en wervingshulpmiddelen die discrimineren tegen vrouwen en zwarte kandidaten.

Onderzoekers van de University of Texas at Austin, onder wie Hüseyin Tanriverdi en PhD-kandidaat John-Patrick Akinyemi, bestudeerden een set van 363 algoritmen uit de repository "AI Algorithmic and Automation Incidents and Controversies." Ze vergeleken elk algoritme dat als problematisch was aangeduid met een vergelijkbaar algoritme dat niet wegens vooringenomenheid was genoemd, en onderzochten zowel de technische systemen als de organisaties die ze inzetten.

De studie identificeert drie samenhangende factoren die het risico op oneerlijke uitkomsten verhogen. Ten eerste: gevallen zonder een goed vastgestelde waarheid verhogen de kans op bias, bijvoorbeeld wanneer meningen over haatspraak als objectieve feiten worden behandeld of wanneer een taak zoals het schatten van leeftijd uit een röntgenfoto geen vaste methode heeft. Ten tweede: de complexiteit van de echte wereld wordt vaak versimpeld, waardoor belangrijke variabelen ontbreken — zoals in Arkansas, waar automatisch beleid huisbezoeken verving en sommige gehandicapte mensen daardoor geen hulp bij eten en douchen kregen. Ten derde: systemen die diverse groepen bedienen kunnen bevooroordeeld raken als ze vooral door één demografische groep worden ontworpen; betrokkenheid van verschillende belanghebbenden kan tegenstrijdige doelen zichtbaar maken en leiden tot compromissen.

De onderzoekers concluderen dat het verminderen van AI-bias meer vereist dan alleen het verbeteren van nauwkeurigheid. Ontwikkelaars moeten zwarte dozen openen, rekening houden met complexe werkelijkheid, diverse input betrekken en zorgen voor duidelijke, vastgestelde waarheden. Volgens Tanriverdi zijn dit ontbrekende stukjes die dataspecialisten lijken te negeren. Het onderzoek verschijnt in MIS Quarterly; bron: UT Austin.