Kunstmatige-intelligentietools bereiken veel mensen. In april behaalde OpenAI’s ChatGPT veel wekelijkse gebruikers. Tegelijkertijd lieten rapporten zien dat AI soms leidt tot bevooroordeelde medische keuzes en discriminerende wervingshulpmiddelen.
Onderzoekers van de University of Texas at Austin bestudeerden dit. Zij vergeleken problematische algoritmen met vergelijkbare algoritmen die niet als bevooroordeeld waren genoemd. Ze beoordeelden zowel de algoritmen als de organisaties die ze gebruikten.
De studie noemt drie oorzaken: geen vaste waarheid, versimpeling van de werkelijkheid en te weinig betrokkenheid van verschillende belanghebbenden. Een voorbeeld is Arkansas, waar automatische beslissingen huisbezoeken vervingen en sommige gehandicapte mensen geen hulp bij eten en douchen meer kregen. De onderzoekers zeggen dat meer openheid en diverse input nodig zijn, niet alleen hogere nauwkeurigheid.
Moeilijke woorden
- algoritme — computerregel of programma dat beslissingen neemtalgoritmen
- bevooroordeeld — oneerlijk zijn tegenover een persoon of groepbevooroordeelde
- discriminerend — anders behandelen vanwege afkomst of kenmerkendiscriminerende
- onderzoeker — iemand die studie doet en onderzoektOnderzoekers
- belanghebbende — iemand of groep met interesse in een zaakbelanghebbenden
- versimpeling — iets makkelijker maken dan het echt is
- openheid — informatie delen en duidelijk zijn over zaken
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Waarom zeggen de onderzoekers dat meer openheid nodig is?
- Welke problemen kunnen ontstaan als algoritmen beslissingen vervangen?
- Hoe zou diverse input kunnen helpen bij het maken van algoritmen?
Gerelateerde artikelen
Waarom taalmodellen moeite hebben met vermenigvuldigen
Onderzoekers van de University of Chicago en partners onderzochten waarom grote taalmodellen twee viercijferige getallen slecht vermenigvuldigen. Een nieuwe trainingsmethode (ICoT) liet modellen tussentijdse waarden onthouden en verbeterde de nauwkeurigheid sterk.
Wie wetenschappers zijn beïnvloedt publiek vertrouwen
Een nieuwe studie in Nature Human Behaviour laat zien dat demografische vertegenwoordiging onder wetenschappers invloed heeft op het vertrouwen van het Amerikaanse publiek. Onderzoekers onder leiding van James Druckman onderzochten verschillen tussen groepen en gevolgen voor acceptatie van wetenschappelijke aanbevelingen.
Licht bestuurt calciumnetwerk voor kunstmatige cellen
Onderzoekers gebruiken licht om calcium gecontroleerd vrij te maken en een eiwitnetwerk in kunstmatige cellen te laten samentrekken. Het netwerk kan herhaaldelijk samentrekken en microscopische deeltjes verplaatsen, een stap naar gericht geneesmiddeltransport.
Nieuw lichtactief materiaal reinigt water
Onderzoekers ontwikkelden een materiaal dat met licht veel verontreinigingen in water afbreekt, waaronder moeilijk te verwijderen stoffen. Het combineert twee dunne materialen en werkt zonder metalen; tests in stromend water waren veelbelovend.
Twee microglia-populaties regelen angst bij muizen
Onderzoek aan de University of Utah laat zien dat twee verschillende typen microglia bij muizen angst kunnen veroorzaken of juist voorkomen. De cellen houden elkaar in balans en dit kan leiden tot nieuwe behandelideeën, maar toepassingen zijn nog ver weg.