Een nieuw onderzoek, gepresenteerd in april op de CHI-conferentie, laat zien dat het noemen van autisme het advies van grote taalmodellen wezenlijk kan veranderen. Het project, geleid vanuit het lab van universitair docent Eugenia Rho bij Virginia Tech en gepresenteerd door promovendus Caleb Wohn, onderzocht hoe personalisatie op basis van identiteitsinformatie samenvalt met bestaande stereotypen.
Het team identificeerde twaalf goed gedocumenteerde stereotypen en bouwde honderden scenario’s met "Moet ik A of B doen?"-keuzes over evenementen, confrontaties, nieuwe ervaringen en romantische relaties. Ze testten zes grote taalmodellen en genereerden in totaal duizenden tot honderdduizenden antwoorden. Elf van de twaalf stereotypeprikkels verschooften significant de modelbeslissingen in ten minste vier van de zes geteste systemen.
Modellen adviseerden bijvoorbeeld veel vaker om sociale uitnodigingen af te slaan of geen romantische stappen te zetten wanneer autisme werd genoemd. Het team interviewde 11 AI-gebruikers met autisme; sommige deelnemers noemden de antwoorden beperkend of betuttelend, terwijl anderen het voorzichtige advies juist bevestigend vonden. Eén deelnemer vroeg zich spottend af: “Schrijven we hier een adviesrubriek voor Spock?”
Rho vatte de spanning samen: "Het vooroordeel van de ene gebruiker kan de personalisatie van een andere gebruiker zijn." De onderzoekers spreken van een "veiligheids-kans paradox" en roepen ontwikkelaars op tot meer transparantie en opties, zodat gebruikers meer controle krijgen over hoe persoonlijke identiteit informatie het antwoordvorming beïnvloedt.
Moeilijke woorden
- personalisatie — Aanpassen van antwoorden aan iemands achtergrond
- identiteitsinformatie — Gegevens over iemands persoonlijke identiteit
- stereotypeprikkel — Een prikkel die bij een stereotype paststereotypeprikkels
- vooroordeel — Een negatieve of bevooroordeelde mening
- betuttelend — Op een neerbuigende, beschermende manier
- transparantie — Duidelijkheid over processen en beslissingen
- paradox — Een schijnbare tegenstelling die samen bestaat
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Welke voor- en nadelen kunnen ontstaan wanneer een taalmodel advies personaliseert op basis van identiteit?
- Hoe zou meer transparantie gebruikers met autisme kunnen helpen volgens de tekst?
- Welke opties zou jij aan ontwikkelaars voorstellen om gebruikers meer controle over personalisatie te geven?
Gerelateerde artikelen
Studie: hoger sterfterisico bij zwangerschap dan bij abortus
Een nieuwe analyse met recentere Amerikaanse gegevens toont dat het sterfterisico door zwangerschap 44–70 keer hoger is dan bij abortus. Betere registratie sinds 2003 (volledig in 2018) veranderde eerdere, lagere schattingen.
Nieuwe AI-hulpmiddelen voor tuberculose getoond in Kopenhagen
Onderzoekers presenteerden op de Union World Conference on Lung Health (18-21 November) meerdere AI-hulpmiddelen voor opsporing en opvolging van tuberculose. De tools variëren van adem- en hoesttests tot kaarten en een röntgenhulpmiddel voor kinderen.
AI kan persoonlijkheid voorspellen uit taal
Onderzoekers vonden dat algemene AI-modellen zoals ChatGPT, Claude en LLaMa persoonlijkheid en dagelijks gedrag kunnen voorspellen uit wat mensen zeggen. De AI-scores kwamen vaak overeen met zelfbeoordelingen en voorspelden ook emoties en stress.
Studie: AI maakt schrijven niet automatisch makkelijker
Onderzoekers van Iowa State volgden studenten in een experimentele cursus en vonden dat generatieve AI vaak de cognitieve belasting van schrijven verhoogt. Studenten leerden AI aan te sturen, kritisch te controleren en hun denken te verfijnen.