In april presenteerde promovendus Caleb Wohn een paper op de Association for Computing Machinery’s CHI-conferentie. Het onderzoek kwam uit het lab van universitair docent Eugenia Rho van Virginia Tech. Het team onderzocht hoe grote taalmodellen reageren wanneer gebruikers vóór een vraag aangeven dat ze autistisch zijn.
De onderzoekers identificeerden twaalf goed gedocumenteerde stereotypen en maakten honderden besluitvormingsscenario’s. Ze testten zes modellen, waaronder GPT-4, Claude en Llama, en genereerden 345.000 antwoorden op duizenden "Moet ik A of B doen?"-prompts over evenementen, confrontaties, nieuwe ervaringen en relaties. Vaak verschoof het advies naar aannames dat autistische mensen introvert, obsessief of niet geïnteresseerd in romantiek zijn.
In één model werd het afraden van een sociale uitnodiging bijna 75% van de tijd aanbevolen na vermelding van autisme, tegenover ongeveer 15% zonder vermelding. In sommige datingscenario’s raadde een model bijna 70% van de tijd af om romantiek te zoeken, vergeleken met ongeveer 50% zonder vermelding. Het team interviewde ook 11 AI-gebruikers met autisme; reacties varieerden van geschokt tot gerustgesteld.
De onderzoekers waarschuwen dat AI betrouwbaar kan lijken terwijl het systematische vooroordelen verbergt. Ze hopen dat ontwikkelaars systemen bouwen die duidelijker zijn en gebruikers meer controle geven over hoe persoonlijke informatie antwoorden vormt.
Moeilijke woorden
- promovendus — iemand die onderzoek doet voor een doctorstitel
- stereotype — eenvoudige, vaak onjuiste ideeën over een groepstereotypen
- besluitvormingsscenario — voorbeeldsituatie waarin iemand een keuze moet makenbesluitvormingsscenario’s
- model — computerprogramma dat taal of gedrag simuleertmodellen
- vooroordeel — negatieve mening over een persoonengroep zonder bewijsvooroordelen
- betrouwbaar — je kunt erop vertrouwen dat iets klopt
- ontwikkelaar — mensen die software of systemen makenontwikkelaars
- interviewen — vragen stellen aan iemand voor een verslaginterviewde
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Wat vind je van het idee dat AI vooroordelen kan verbergen? Geef twee redenen voor je mening.
- Welke veranderingen zouden ontwikkelaars kunnen doen om gebruikers meer controle te geven over persoonlijke informatie?
- Heb je voorbeelden gezien van advies van een computerprogramma dat vooroordelen leek te hebben? Beschrijf kort wat er gebeurde.
Gerelateerde artikelen
Persoonlijke aanvallen in het Amerikaanse Congres
Nieuw onderzoek van de University of Notre Dame kijkt naar waarom sommige Congresleden persoonlijke aanvallen gebruiken. De studie vindt dat zulke aanvallen veel media-aandacht krijgen, maar niet leiden tot meer geld, verkiezingswinst of wetgevend succes.
Nieuw molecuul slaat zonlicht op en geeft het vrij als warmte
Chemici van UC Santa Barbara ontwikkelden een aangepast organisch molecuul (pyrimidone) dat zonlicht opslaat in chemische bindingen en op verzoek warmte afgeeft. Het materiaal is herbruikbaar, lost op in water en kan water verwarmen.
Meer data en technologie bij de Winterspelen 2026
De Winterspelen van 2026 gebruiken meer data en nieuwe technologieën. Teams, onderzoekers en media gebruiken analyses om training, verslaggeving en het begrip van prestaties te veranderen, maar er blijven vragen over eerlijkheid en toegang.
Neuromorfe chips geïnspireerd op het menselijk brein
Onderzoekers ontwikkelen hardware die het brein nabootst om energie te besparen. Ze gebruiken synapsachtige apparaten met organische transistors; het werk geeft aanwijzingen voor efficiëntere, breinachtige AI. De studie verschijnt in ACS Applied Electronic Materials.