Kunstmatige-intelligentietools bereiken veel mensen. In april behaalde OpenAI’s ChatGPT veel wekelijkse gebruikers. Tegelijkertijd lieten rapporten zien dat AI soms leidt tot bevooroordeelde medische keuzes en discriminerende wervingshulpmiddelen.
Onderzoekers van de University of Texas at Austin bestudeerden dit. Zij vergeleken problematische algoritmen met vergelijkbare algoritmen die niet als bevooroordeeld waren genoemd. Ze beoordeelden zowel de algoritmen als de organisaties die ze gebruikten.
De studie noemt drie oorzaken: geen vaste waarheid, versimpeling van de werkelijkheid en te weinig betrokkenheid van verschillende belanghebbenden. Een voorbeeld is Arkansas, waar automatische beslissingen huisbezoeken vervingen en sommige gehandicapte mensen geen hulp bij eten en douchen meer kregen. De onderzoekers zeggen dat meer openheid en diverse input nodig zijn, niet alleen hogere nauwkeurigheid.
Moeilijke woorden
- algoritme — computerregel of programma dat beslissingen neemtalgoritmen
- bevooroordeeld — oneerlijk zijn tegenover een persoon of groepbevooroordeelde
- discriminerend — anders behandelen vanwege afkomst of kenmerkendiscriminerende
- onderzoeker — iemand die studie doet en onderzoektOnderzoekers
- belanghebbende — iemand of groep met interesse in een zaakbelanghebbenden
- versimpeling — iets makkelijker maken dan het echt is
- openheid — informatie delen en duidelijk zijn over zaken
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Waarom zeggen de onderzoekers dat meer openheid nodig is?
- Welke problemen kunnen ontstaan als algoritmen beslissingen vervangen?
- Hoe zou diverse input kunnen helpen bij het maken van algoritmen?
Gerelateerde artikelen
Dopamine helpt motorische vaardigheden tijdens slaap
Onderzoekers van de University of Michigan vonden dat specifieke dopamineneuronen actief worden tijdens NREM-slaap kort na het leren van een nieuwe beweging. Die activiteit versterkt motorische herinneringen en verbetert motorische prestaties na de slaap.
Onderzoekers werken aan antiserum tegen zwarte schorpioen
Indiaanse onderzoekers analyseren het gif van de Indische zwarte schorpioen en werken aan een antiserum. Ze vonden veel verschillende toxines, testten het gif op muizen en benadrukken de noodzaak van betere behandelmethoden.
Waarom taalmodellen moeite hebben met vermenigvuldigen
Onderzoekers van de University of Chicago en partners onderzochten waarom grote taalmodellen twee viercijferige getallen slecht vermenigvuldigen. Een nieuwe trainingsmethode (ICoT) liet modellen tussentijdse waarden onthouden en verbeterde de nauwkeurigheid sterk.