Kunstmatige-intelligentietools bereiken veel mensen. In april behaalde OpenAI’s ChatGPT veel wekelijkse gebruikers. Tegelijkertijd lieten rapporten zien dat AI soms leidt tot bevooroordeelde medische keuzes en discriminerende wervingshulpmiddelen.
Onderzoekers van de University of Texas at Austin bestudeerden dit. Zij vergeleken problematische algoritmen met vergelijkbare algoritmen die niet als bevooroordeeld waren genoemd. Ze beoordeelden zowel de algoritmen als de organisaties die ze gebruikten.
De studie noemt drie oorzaken: geen vaste waarheid, versimpeling van de werkelijkheid en te weinig betrokkenheid van verschillende belanghebbenden. Een voorbeeld is Arkansas, waar automatische beslissingen huisbezoeken vervingen en sommige gehandicapte mensen geen hulp bij eten en douchen meer kregen. De onderzoekers zeggen dat meer openheid en diverse input nodig zijn, niet alleen hogere nauwkeurigheid.
Moeilijke woorden
- algoritme — computerregel of programma dat beslissingen neemtalgoritmen
- bevooroordeeld — oneerlijk zijn tegenover een persoon of groepbevooroordeelde
- discriminerend — anders behandelen vanwege afkomst of kenmerkendiscriminerende
- onderzoeker — iemand die studie doet en onderzoektOnderzoekers
- belanghebbende — iemand of groep met interesse in een zaakbelanghebbenden
- versimpeling — iets makkelijker maken dan het echt is
- openheid — informatie delen en duidelijk zijn over zaken
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Waarom zeggen de onderzoekers dat meer openheid nodig is?
- Welke problemen kunnen ontstaan als algoritmen beslissingen vervangen?
- Hoe zou diverse input kunnen helpen bij het maken van algoritmen?
Gerelateerde artikelen
Kleine cellen helpen mangroves tegen zout water
Onderzoekers vonden dat mangrovebomen kleinere cellen en dikkere celwanden hebben. Die eigenschappen geven stevigheid en helpen tegen herhaalde overstroming met zout water. De bevinding kan strategieën voor zouttolerante planten aanwijzen.
Kleine vertragingen kunnen misinformatie verminderen
Onderzoekers van de University of Copenhagen stellen voor delen iets moeilijker te maken. Een korte pauze en een kort leerelement, zoals een pop-upquiz, vertragen verspreiding en kunnen de kwaliteit van gedeelde berichten verbeteren.
Snelle antistoftest zonder bloed met draagbare biosensoren
Onderzoekers van de University of Pittsburgh maken draagbare biosensoren die antistoffen in 10 minuten detecteren zonder bloedafname. De sensoren meten in interstitiële vloeistof en zijn zeer gevoelig, volgens publicatie in Analytical Chemistry.
Genduplicatie geeft houtratten weerstand tegen ratelslangengif
Nieuw onderzoek laat zien dat houtratten beten van ratelslangen kunnen overleven door een genetische verandering. Ze hebben meerdere kopieën van het gen SERPINA3; sommige eiwitten binden ratelslangengif en blokkeren de giftige werking.
Burgerarchivarissen bewaren mondelinge tradities in Zuid-Azië
Burgerarchivarissen leggen volksliederen, mondelinge geschiedenissen, raadsels en traditionele geneeskunde vast. Het project ondersteunt moedertaalsprekers bij opnemen, uploaden en transcriberen voor Wikimedia Commons, Wikisource en Wikipedia (14 taalgemeenschappen, 227 opnamen).