Kunstmatige-intelligentietools groeien snel en bereiken een groot publiek. Tegelijkertijd documenteren onderzoekers en journalisten schade veroorzaakt door bevooroordeelde systemen, zoals verschillende medische behandelingen op basis van demografische kenmerken en wervingshulpmiddelen die discrimineren tegen vrouwen en zwarte kandidaten.
Onderzoekers van de University of Texas at Austin, onder wie Hüseyin Tanriverdi en PhD-kandidaat John-Patrick Akinyemi, bestudeerden een set van 363 algoritmen uit de repository "AI Algorithmic and Automation Incidents and Controversies." Ze vergeleken elk algoritme dat als problematisch was aangeduid met een vergelijkbaar algoritme dat niet wegens vooringenomenheid was genoemd, en onderzochten zowel de technische systemen als de organisaties die ze inzetten.
De studie identificeert drie samenhangende factoren die het risico op oneerlijke uitkomsten verhogen. Ten eerste: gevallen zonder een goed vastgestelde waarheid verhogen de kans op bias, bijvoorbeeld wanneer meningen over haatspraak als objectieve feiten worden behandeld of wanneer een taak zoals het schatten van leeftijd uit een röntgenfoto geen vaste methode heeft. Ten tweede: de complexiteit van de echte wereld wordt vaak versimpeld, waardoor belangrijke variabelen ontbreken — zoals in Arkansas, waar automatisch beleid huisbezoeken verving en sommige gehandicapte mensen daardoor geen hulp bij eten en douchen kregen. Ten derde: systemen die diverse groepen bedienen kunnen bevooroordeeld raken als ze vooral door één demografische groep worden ontworpen; betrokkenheid van verschillende belanghebbenden kan tegenstrijdige doelen zichtbaar maken en leiden tot compromissen.
De onderzoekers concluderen dat het verminderen van AI-bias meer vereist dan alleen het verbeteren van nauwkeurigheid. Ontwikkelaars moeten zwarte dozen openen, rekening houden met complexe werkelijkheid, diverse input betrekken en zorgen voor duidelijke, vastgestelde waarheden. Volgens Tanriverdi zijn dit ontbrekende stukjes die dataspecialisten lijken te negeren. Het onderzoek verschijnt in MIS Quarterly; bron: UT Austin.
Moeilijke woorden
- vooringenomenheid — onrechtvaardige neiging die resultaten vertekent
- zwarte doos — systeem waarvan de werking onduidelijk of verborgen iszwarte dozen
- demografisch — met betrekking tot kenmerken van bevolkingsgroependemografische
- complexiteit — de mate van ingewikkeldheid in een situatie
- waarheid — een feit of vaststelling die als juist geldt
- belanghebbende — persoon of groep met een direct belang bij ietsbelanghebbenden
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Wat zijn mogelijke nadelen als een algoritme vooral door één demografische groep wordt ontworpen? Geef redenen.
- Welke stappen zouden ontwikkelaars en organisaties kunnen nemen om beter met de complexe werkelijkheid rekening te houden? Noem concrete voorbeelden.
- Kun je een voorbeeld noemen uit jouw omgeving waar het weglaten van belangrijke variabelen door automatisering schade kan veroorzaken? Leg uit waarom.
Gerelateerde artikelen
Tijd van behandeling beïnvloedt reactie van glioblastoom op chemotherapie
Nieuw onderzoek toont aan dat het tijdstip van behandeling kan veranderen hoe glioblastoom reageert op temozolomide. MGMT-activiteit en methylatie wisselen door de dag; onderzoekers stellen chronodiagnostiek en chronotherapie voor.
Xonorika Kira over het mensbeeld in kunstmatige intelligentie
Kunstenaar en schrijver Xonorika Kira waarschuwt dat het idee 'de mens centraal' een smalle blik op intelligentie kan verbergen. Ze pleit voor erkenning van andere vormen van kennis en kleinere, gemeenschapsgerichte datasets en modellen.
Rapport: samenwerking grote bedrijven maakt hulpmiddelen duur voor boeren
Een rapport van IPES-Food waarschuwt dat nauwe banden tussen grote landbouw- en technologiebedrijven moderne digitale hulpmiddelen onbetaalbaar maken voor kleinschalige boeren. Het noemt zorgen over datacontrole, lock-ins en commercieel gebruik van traditionele kennis.
Hoe schimmels na bosbranden houtskool gebruiken
Onderzoekers van de University of California, Riverside vonden dat schimmels na brand genetische en fysieke strategieën hebben om houtskool te gebruiken. De bevindingen, gepubliceerd in Proceedings of the National Academy of Sciences, wijzen op mogelijke toepassingen bij opruiming en herstel.
