Kunstmatige-intelligentietools bereiken veel mensen. In april behaalde OpenAI’s ChatGPT veel wekelijkse gebruikers. Tegelijkertijd lieten rapporten zien dat AI soms leidt tot bevooroordeelde medische keuzes en discriminerende wervingshulpmiddelen.
Onderzoekers van de University of Texas at Austin bestudeerden dit. Zij vergeleken problematische algoritmen met vergelijkbare algoritmen die niet als bevooroordeeld waren genoemd. Ze beoordeelden zowel de algoritmen als de organisaties die ze gebruikten.
De studie noemt drie oorzaken: geen vaste waarheid, versimpeling van de werkelijkheid en te weinig betrokkenheid van verschillende belanghebbenden. Een voorbeeld is Arkansas, waar automatische beslissingen huisbezoeken vervingen en sommige gehandicapte mensen geen hulp bij eten en douchen meer kregen. De onderzoekers zeggen dat meer openheid en diverse input nodig zijn, niet alleen hogere nauwkeurigheid.
Moeilijke woorden
- algoritme — computerregel of programma dat beslissingen neemtalgoritmen
- bevooroordeeld — oneerlijk zijn tegenover een persoon of groepbevooroordeelde
- discriminerend — anders behandelen vanwege afkomst of kenmerkendiscriminerende
- onderzoeker — iemand die studie doet en onderzoektOnderzoekers
- belanghebbende — iemand of groep met interesse in een zaakbelanghebbenden
- versimpeling — iets makkelijker maken dan het echt is
- openheid — informatie delen en duidelijk zijn over zaken
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Waarom zeggen de onderzoekers dat meer openheid nodig is?
- Welke problemen kunnen ontstaan als algoritmen beslissingen vervangen?
- Hoe zou diverse input kunnen helpen bij het maken van algoritmen?
Gerelateerde artikelen
Jonge mantaroggen dragen groepen vissen in kustwateren
Jonge Caribische mantaroggen in kustgebieden vormen vaak kleine, bewegende ecosystemen doordat andere vissen zich aan hen hechten of bij hen blijven. Onderzoekers bestudeerden videomateriaal en waarschuwen voor risico's door boten en vistuig.
Burgerwetenschap helpt meten van gezondheid en SDG's
Een systematische review concludeert dat burgerwetenschap waardevol is voor het volgen van veel gezondheid- en welzijnsdoelen in de SDG's en de WHO Triple Billion Targets. Ook praktijkvoorbeelden tonen hoe lokale gegevens hiaten kunnen dichten.
UNESCO-rapport: tekort aan gegevens en risico's voor meisjes
Een UNESCO-rapport (gepubliceerd op 27 april) toont grote gaten in onderwijsgegevens uit armere landen en waarschuwt dat meisjes in sommige regio's nog steeds weinig toegang tot onderwijs hebben. Het pleit voor betere monitoring en meer rolmodellen.
