In april presenteerde promovendus Caleb Wohn een paper op de Association for Computing Machinery’s CHI-conferentie. Het onderzoek kwam uit het lab van universitair docent Eugenia Rho van Virginia Tech. Het team onderzocht hoe grote taalmodellen reageren wanneer gebruikers vóór een vraag aangeven dat ze autistisch zijn.
De onderzoekers identificeerden twaalf goed gedocumenteerde stereotypen en maakten honderden besluitvormingsscenario’s. Ze testten zes modellen, waaronder GPT-4, Claude en Llama, en genereerden 345.000 antwoorden op duizenden "Moet ik A of B doen?"-prompts over evenementen, confrontaties, nieuwe ervaringen en relaties. Vaak verschoof het advies naar aannames dat autistische mensen introvert, obsessief of niet geïnteresseerd in romantiek zijn.
In één model werd het afraden van een sociale uitnodiging bijna 75% van de tijd aanbevolen na vermelding van autisme, tegenover ongeveer 15% zonder vermelding. In sommige datingscenario’s raadde een model bijna 70% van de tijd af om romantiek te zoeken, vergeleken met ongeveer 50% zonder vermelding. Het team interviewde ook 11 AI-gebruikers met autisme; reacties varieerden van geschokt tot gerustgesteld.
De onderzoekers waarschuwen dat AI betrouwbaar kan lijken terwijl het systematische vooroordelen verbergt. Ze hopen dat ontwikkelaars systemen bouwen die duidelijker zijn en gebruikers meer controle geven over hoe persoonlijke informatie antwoorden vormt.
Moeilijke woorden
- promovendus — iemand die onderzoek doet voor een doctorstitel
- stereotype — eenvoudige, vaak onjuiste ideeën over een groepstereotypen
- besluitvormingsscenario — voorbeeldsituatie waarin iemand een keuze moet makenbesluitvormingsscenario’s
- model — computerprogramma dat taal of gedrag simuleertmodellen
- vooroordeel — negatieve mening over een persoonengroep zonder bewijsvooroordelen
- betrouwbaar — je kunt erop vertrouwen dat iets klopt
- ontwikkelaar — mensen die software of systemen makenontwikkelaars
- interviewen — vragen stellen aan iemand voor een verslaginterviewde
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Wat vind je van het idee dat AI vooroordelen kan verbergen? Geef twee redenen voor je mening.
- Welke veranderingen zouden ontwikkelaars kunnen doen om gebruikers meer controle te geven over persoonlijke informatie?
- Heb je voorbeelden gezien van advies van een computerprogramma dat vooroordelen leek te hebben? Beschrijf kort wat er gebeurde.
Gerelateerde artikelen
Zonnepanelen die zout scheiden bij ontzilting
Onderzoekers ontwikkelden zonne-energiepanelen met laserbewerkte oppervlakken die zeewater verdampen en zouten naar een ander deel van het paneel verplaatsen. De methode geeft zoet water, laat zouten als vaste stof achter en kan lithium uit zout winnen.
Vragenlijst voor depressie betrouwbaar bij chronische pijn
Onderzoekers vonden dat een veelgebruikte depressiescreening even betrouwbaar is bij mensen met en zonder chronische pijn. De studie gebruikte gegevens uit een grote Amerikaanse gezondheidsenquête en concludeerde dat gedeelde klachten geen vertekening veroorzaken.
Onderzoek: minder cookies vermindert advertentie-inkomsten
Een studie van Boston University onderzoekt wat het verwijderen van third-party cookies doet met online advertentie-inkomsten. De onderzoekers vinden grote dalingen, vooral in de EU, en zien dat Privacy Sandbox weinig van het verlies terugbrengt.
