Onderzoekers: AI-bias komt door te simpele modellen ^{CEFR B1}

Kunstmatige-intelligentietools zijn wijdverbreid en soms schadelijk. In april bereikte OpenAI’s ChatGPT een miljard actieve wekelijkse gebruikers, en tegelijkertijd rapporteerden journalisten en onderzoekers voorbeelden van bevooroordeelde AI, onder meer in de zorg en bij werving.

Nieuw onderzoek van de University of Texas at Austin, door Hüseyin Tanriverdi en John-Patrick Akinyemi, analyseerde een set van 363 algoritmen uit een repository met incidenten en controverses. De onderzoekers vergeleken elk als problematisch genoemd algoritme met een vergelijkbaar algoritme dat niet wegens vooringenomenheid was genoemd. Ze onderzochten de algoritmen en de organisaties die ze maakten en gebruikten.

De studie identificeert drie samenhangende factoren die het risico op oneerlijke uitkomsten verhogen: het ontbreken van een gevestigde waarheid, de manier waarop modellen de complexe werkelijkheid versimpelen, en onvoldoende betrokkenheid van diverse belanghebbenden. Een concreet voorbeeld is Arkansas, waar geautomatiseerde beslissingen huisbezoeken vervingen en daardoor sommige gehandicapte mensen hulp bij eten en douchen misten. De onderzoekers concluderen dat het verminderen van bias meer vergt dan alleen verbeterde nauwkeurigheid; ontwikkelaars moeten transparanter werken en diverse input betrekken. Het onderzoek verschijnt in MIS Quarterly (bron: UT Austin).