Een nieuw onderzoek, gepresenteerd in april op de CHI-conferentie, laat zien dat het noemen van autisme het advies van grote taalmodellen wezenlijk kan veranderen. Het project, geleid vanuit het lab van universitair docent Eugenia Rho bij Virginia Tech en gepresenteerd door promovendus Caleb Wohn, onderzocht hoe personalisatie op basis van identiteitsinformatie samenvalt met bestaande stereotypen.
Het team identificeerde twaalf goed gedocumenteerde stereotypen en bouwde honderden scenario’s met "Moet ik A of B doen?"-keuzes over evenementen, confrontaties, nieuwe ervaringen en romantische relaties. Ze testten zes grote taalmodellen en genereerden in totaal duizenden tot honderdduizenden antwoorden. Elf van de twaalf stereotypeprikkels verschooften significant de modelbeslissingen in ten minste vier van de zes geteste systemen.
Modellen adviseerden bijvoorbeeld veel vaker om sociale uitnodigingen af te slaan of geen romantische stappen te zetten wanneer autisme werd genoemd. Het team interviewde 11 AI-gebruikers met autisme; sommige deelnemers noemden de antwoorden beperkend of betuttelend, terwijl anderen het voorzichtige advies juist bevestigend vonden. Eén deelnemer vroeg zich spottend af: “Schrijven we hier een adviesrubriek voor Spock?”
Rho vatte de spanning samen: "Het vooroordeel van de ene gebruiker kan de personalisatie van een andere gebruiker zijn." De onderzoekers spreken van een "veiligheids-kans paradox" en roepen ontwikkelaars op tot meer transparantie en opties, zodat gebruikers meer controle krijgen over hoe persoonlijke identiteit informatie het antwoordvorming beïnvloedt.
Moeilijke woorden
- personalisatie — Aanpassen van antwoorden aan iemands achtergrond
- identiteitsinformatie — Gegevens over iemands persoonlijke identiteit
- stereotypeprikkel — Een prikkel die bij een stereotype paststereotypeprikkels
- vooroordeel — Een negatieve of bevooroordeelde mening
- betuttelend — Op een neerbuigende, beschermende manier
- transparantie — Duidelijkheid over processen en beslissingen
- paradox — Een schijnbare tegenstelling die samen bestaat
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Welke voor- en nadelen kunnen ontstaan wanneer een taalmodel advies personaliseert op basis van identiteit?
- Hoe zou meer transparantie gebruikers met autisme kunnen helpen volgens de tekst?
- Welke opties zou jij aan ontwikkelaars voorstellen om gebruikers meer controle over personalisatie te geven?
Gerelateerde artikelen
Fatsoenlijke internetverbinding onbereikbaar voor veel mensen
Een nieuw rapport waarschuwt dat fatsoenlijke internetverbinding buiten bereik is voor 90 per cent van de mensen in lage- en middeninkomenslanden. Het rapport noemt 4G, smartphonebezit en dagelijks gebruik als voorwaarden voor echte toegang.
Leren lopen met een robotische onderbeenprothese verandert het lichaamsbeeld
Een studie onderzoekt hoe mensen een robotische onderbeenprothese in hun lichaamsbeeld opnemen tijdens oefening. Deelnemers verbeterden in lopen, maar hun waarneming van hun bewegingen werd onnauwkeurig en soms te positief.
