Kunstmatige-intelligentietools bereiken veel mensen. In april behaalde OpenAI’s ChatGPT veel wekelijkse gebruikers. Tegelijkertijd lieten rapporten zien dat AI soms leidt tot bevooroordeelde medische keuzes en discriminerende wervingshulpmiddelen.
Onderzoekers van de University of Texas at Austin bestudeerden dit. Zij vergeleken problematische algoritmen met vergelijkbare algoritmen die niet als bevooroordeeld waren genoemd. Ze beoordeelden zowel de algoritmen als de organisaties die ze gebruikten.
De studie noemt drie oorzaken: geen vaste waarheid, versimpeling van de werkelijkheid en te weinig betrokkenheid van verschillende belanghebbenden. Een voorbeeld is Arkansas, waar automatische beslissingen huisbezoeken vervingen en sommige gehandicapte mensen geen hulp bij eten en douchen meer kregen. De onderzoekers zeggen dat meer openheid en diverse input nodig zijn, niet alleen hogere nauwkeurigheid.
Moeilijke woorden
- algoritme — computerregel of programma dat beslissingen neemtalgoritmen
- bevooroordeeld — oneerlijk zijn tegenover een persoon of groepbevooroordeelde
- discriminerend — anders behandelen vanwege afkomst of kenmerkendiscriminerende
- onderzoeker — iemand die studie doet en onderzoektOnderzoekers
- belanghebbende — iemand of groep met interesse in een zaakbelanghebbenden
- versimpeling — iets makkelijker maken dan het echt is
- openheid — informatie delen en duidelijk zijn over zaken
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Waarom zeggen de onderzoekers dat meer openheid nodig is?
- Welke problemen kunnen ontstaan als algoritmen beslissingen vervangen?
- Hoe zou diverse input kunnen helpen bij het maken van algoritmen?
Gerelateerde artikelen
Elastisch oor gemaakt van menselijke cellen in het lab
Onderzoekers in Zwitserland produceerden elastisch oorkraakbeen uit menselijke cellen en testten de constructen in een diermodel. De geprinte oren bleven vorm en elasticiteit behouden; volgende stappen zijn klinische studies en formele goedkeuring.
AI en nepnieuws tijdens verkiezing in Bangladesh
Bangladesh hield op 12 februari een nationale verkiezing na een studentenopstand. In de aanloop speelde kunstmatige intelligentie (AI) een grote rol: er verschenen veel door AI gemaakte foto’s, video’s en valse citaten die de campagne beïnvloedden.
Dopamine helpt motorische vaardigheden tijdens slaap
Onderzoekers van de University of Michigan vonden dat specifieke dopamineneuronen actief worden tijdens NREM-slaap kort na het leren van een nieuwe beweging. Die activiteit versterkt motorische herinneringen en verbetert motorische prestaties na de slaap.