Een nieuw onderzoek, gepresenteerd in april op de CHI-conferentie, laat zien dat het noemen van autisme het advies van grote taalmodellen wezenlijk kan veranderen. Het project, geleid vanuit het lab van universitair docent Eugenia Rho bij Virginia Tech en gepresenteerd door promovendus Caleb Wohn, onderzocht hoe personalisatie op basis van identiteitsinformatie samenvalt met bestaande stereotypen.
Het team identificeerde twaalf goed gedocumenteerde stereotypen en bouwde honderden scenario’s met "Moet ik A of B doen?"-keuzes over evenementen, confrontaties, nieuwe ervaringen en romantische relaties. Ze testten zes grote taalmodellen en genereerden in totaal duizenden tot honderdduizenden antwoorden. Elf van de twaalf stereotypeprikkels verschooften significant de modelbeslissingen in ten minste vier van de zes geteste systemen.
Modellen adviseerden bijvoorbeeld veel vaker om sociale uitnodigingen af te slaan of geen romantische stappen te zetten wanneer autisme werd genoemd. Het team interviewde 11 AI-gebruikers met autisme; sommige deelnemers noemden de antwoorden beperkend of betuttelend, terwijl anderen het voorzichtige advies juist bevestigend vonden. Eén deelnemer vroeg zich spottend af: “Schrijven we hier een adviesrubriek voor Spock?”
Rho vatte de spanning samen: "Het vooroordeel van de ene gebruiker kan de personalisatie van een andere gebruiker zijn." De onderzoekers spreken van een "veiligheids-kans paradox" en roepen ontwikkelaars op tot meer transparantie en opties, zodat gebruikers meer controle krijgen over hoe persoonlijke identiteit informatie het antwoordvorming beïnvloedt.
Moeilijke woorden
- personalisatie — Aanpassen van antwoorden aan iemands achtergrond
- identiteitsinformatie — Gegevens over iemands persoonlijke identiteit
- stereotypeprikkel — Een prikkel die bij een stereotype paststereotypeprikkels
- vooroordeel — Een negatieve of bevooroordeelde mening
- betuttelend — Op een neerbuigende, beschermende manier
- transparantie — Duidelijkheid over processen en beslissingen
- paradox — Een schijnbare tegenstelling die samen bestaat
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Welke voor- en nadelen kunnen ontstaan wanneer een taalmodel advies personaliseert op basis van identiteit?
- Hoe zou meer transparantie gebruikers met autisme kunnen helpen volgens de tekst?
- Welke opties zou jij aan ontwikkelaars voorstellen om gebruikers meer controle over personalisatie te geven?
Gerelateerde artikelen
Universiteit en farmaceut bedrijf starten academie voor biotechnologie
De American University in Cairo en Minapharm werken samen aan wat zij noemen de eerste Afrikaanse academie voor biotechnologie. Het doel is onderwijs en onderzoek te verbinden met de praktische behoeften van de industrie.
Abbott-Bioline geeft volgens studie veel vals-negatieven
Een studie in Malaria Journal stelt dat de veelgebruikte sneltest Abbott-Bioline veel vals-negatieve uitslagen geeft en 'niet geschikt is voor het doel'. Onderzoekers, fabrikanten en WHO reageren verschillend en nieuw bewijs wordt beoordeeld.
DopFone: app om thuis de foetale hartslag te volgen
Een nieuwe app, DopFone, laat zwangere mensen thuis de hartslag van de foetus meten met de luidspreker van een telefoon. Onderzoekers van Georgia Tech en University of Washington testen de app en waarschuwen dat het geen vervanging is voor medische zorg.
