In april presenteerde promovendus Caleb Wohn een paper op de Association for Computing Machinery’s CHI-conferentie. Het onderzoek kwam uit het lab van universitair docent Eugenia Rho van Virginia Tech. Het team onderzocht hoe grote taalmodellen reageren wanneer gebruikers vóór een vraag aangeven dat ze autistisch zijn.
De onderzoekers identificeerden twaalf goed gedocumenteerde stereotypen en maakten honderden besluitvormingsscenario’s. Ze testten zes modellen, waaronder GPT-4, Claude en Llama, en genereerden 345.000 antwoorden op duizenden "Moet ik A of B doen?"-prompts over evenementen, confrontaties, nieuwe ervaringen en relaties. Vaak verschoof het advies naar aannames dat autistische mensen introvert, obsessief of niet geïnteresseerd in romantiek zijn.
In één model werd het afraden van een sociale uitnodiging bijna 75% van de tijd aanbevolen na vermelding van autisme, tegenover ongeveer 15% zonder vermelding. In sommige datingscenario’s raadde een model bijna 70% van de tijd af om romantiek te zoeken, vergeleken met ongeveer 50% zonder vermelding. Het team interviewde ook 11 AI-gebruikers met autisme; reacties varieerden van geschokt tot gerustgesteld.
De onderzoekers waarschuwen dat AI betrouwbaar kan lijken terwijl het systematische vooroordelen verbergt. Ze hopen dat ontwikkelaars systemen bouwen die duidelijker zijn en gebruikers meer controle geven over hoe persoonlijke informatie antwoorden vormt.
Moeilijke woorden
- promovendus — iemand die onderzoek doet voor een doctorstitel
- stereotype — eenvoudige, vaak onjuiste ideeën over een groepstereotypen
- besluitvormingsscenario — voorbeeldsituatie waarin iemand een keuze moet makenbesluitvormingsscenario’s
- model — computerprogramma dat taal of gedrag simuleertmodellen
- vooroordeel — negatieve mening over een persoonengroep zonder bewijsvooroordelen
- betrouwbaar — je kunt erop vertrouwen dat iets klopt
- ontwikkelaar — mensen die software of systemen makenontwikkelaars
- interviewen — vragen stellen aan iemand voor een verslaginterviewde
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Wat vind je van het idee dat AI vooroordelen kan verbergen? Geef twee redenen voor je mening.
- Welke veranderingen zouden ontwikkelaars kunnen doen om gebruikers meer controle te geven over persoonlijke informatie?
- Heb je voorbeelden gezien van advies van een computerprogramma dat vooroordelen leek te hebben? Beschrijf kort wat er gebeurde.
Gerelateerde artikelen
AI helpt jongeren met seksuele gezondheid in Latijns-Amerika
Gezondheidsgroepen in Latijns-Amerika gebruiken kunstmatige intelligentie om seksuele en reproductieve gezondheidsinformatie te geven aan jongeren en gemarginaliseerde groepen. Projecten in Peru en Argentinië proberen taalbarrières, stigma en beperkte zorgaanbod te verminderen.
Dubioza Kolektiv waarschuwt voor AI in 'Yebiga'
De Bosnische band Dubioza Kolektiv bracht de song Yebiga uit, een satire op de groeiende afhankelijkheid van kunstmatige intelligentie en algoritmes. De videoclip toont symbolen van technologische macht en roept op tot kritisch nadenken.
AI leert waarom koppen werken
Een studie van onderzoekers van de Yale School of Management toont dat een taalmodel betere en betrouwbaardere koppen schrijft als het leert waarom mensen op bepaalde koppen klikken. Ze testten de methode met bestaande A/B-testgegevens en menselijke beoordelingen.
