Kunstmatige-intelligentietools bereiken veel mensen. In april behaalde OpenAI’s ChatGPT veel wekelijkse gebruikers. Tegelijkertijd lieten rapporten zien dat AI soms leidt tot bevooroordeelde medische keuzes en discriminerende wervingshulpmiddelen.
Onderzoekers van de University of Texas at Austin bestudeerden dit. Zij vergeleken problematische algoritmen met vergelijkbare algoritmen die niet als bevooroordeeld waren genoemd. Ze beoordeelden zowel de algoritmen als de organisaties die ze gebruikten.
De studie noemt drie oorzaken: geen vaste waarheid, versimpeling van de werkelijkheid en te weinig betrokkenheid van verschillende belanghebbenden. Een voorbeeld is Arkansas, waar automatische beslissingen huisbezoeken vervingen en sommige gehandicapte mensen geen hulp bij eten en douchen meer kregen. De onderzoekers zeggen dat meer openheid en diverse input nodig zijn, niet alleen hogere nauwkeurigheid.
Moeilijke woorden
- algoritme — computerregel of programma dat beslissingen neemtalgoritmen
- bevooroordeeld — oneerlijk zijn tegenover een persoon of groepbevooroordeelde
- discriminerend — anders behandelen vanwege afkomst of kenmerkendiscriminerende
- onderzoeker — iemand die studie doet en onderzoektOnderzoekers
- belanghebbende — iemand of groep met interesse in een zaakbelanghebbenden
- versimpeling — iets makkelijker maken dan het echt is
- openheid — informatie delen en duidelijk zijn over zaken
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Waarom zeggen de onderzoekers dat meer openheid nodig is?
- Welke problemen kunnen ontstaan als algoritmen beslissingen vervangen?
- Hoe zou diverse input kunnen helpen bij het maken van algoritmen?
Gerelateerde artikelen
Oeganda moet gender- en financieringskloven in wetenschap aanpakken
Dit artikel bespreekt de noodzaak om gendergelijkheid en financiering van wetenschappelijk onderzoek in Oeganda te verbeteren.
Ngogo-chimpansees breiden territorium uit na dodelijke aanvallen
Nieuw onderzoek toont dat de Ngogo-chimpansees buren doodden om hun territorium te vergroten. Na die uitbreiding stegen geboorten (15 naar 37) en daalde zuigelingensterfte (41% naar 8%) in de driejarige periode erna.
AI vergroot ongelijkheid tussen mondiaal Noorden en Zuid
AI kan veel economische waarde brengen, maar de voordelen gaan vooral naar rijke landen. Het artikel beschrijft voorbeelden uit Afrika, beleid over chips en datacenters, en roept op tot eerlijk bestuur en samenwerking.
Technologie en transparantie in verkiezingen
Dit artikel bespreekt hoe technologie kan helpen bij transparantie en feitencontrole tijdens verkiezingen in Ecuador.
Groot Maya-monument Aguada Fénix in zuidoost-Mexico
Een groot monument bij Aguada Fénix in Tabasco toont vroeg-Maya rituelen. Opgravingen en lidar laten zien dat het bouwwerk uit 1,000 BCE komt en ceremoniële voorwerpen, pigmenten en wegen bevat.
Mensen met gezichtsverlies schatten aankomst van voertuigen
Onderzoekers vergeleken volwassenen met leeftijdsgebonden maculadegeneratie en mensen met normaal zicht bij het schatten van de aankomsttijd van een voertuig in een virtuele omgeving. Beide groepen gebruikten zicht en geluid; er was geen extra voordeel van beide samen.