Een nieuw onderzoek, gepresenteerd in april op de CHI-conferentie, laat zien dat het noemen van autisme het advies van grote taalmodellen wezenlijk kan veranderen. Het project, geleid vanuit het lab van universitair docent Eugenia Rho bij Virginia Tech en gepresenteerd door promovendus Caleb Wohn, onderzocht hoe personalisatie op basis van identiteitsinformatie samenvalt met bestaande stereotypen.
Het team identificeerde twaalf goed gedocumenteerde stereotypen en bouwde honderden scenario’s met "Moet ik A of B doen?"-keuzes over evenementen, confrontaties, nieuwe ervaringen en romantische relaties. Ze testten zes grote taalmodellen en genereerden in totaal duizenden tot honderdduizenden antwoorden. Elf van de twaalf stereotypeprikkels verschooften significant de modelbeslissingen in ten minste vier van de zes geteste systemen.
Modellen adviseerden bijvoorbeeld veel vaker om sociale uitnodigingen af te slaan of geen romantische stappen te zetten wanneer autisme werd genoemd. Het team interviewde 11 AI-gebruikers met autisme; sommige deelnemers noemden de antwoorden beperkend of betuttelend, terwijl anderen het voorzichtige advies juist bevestigend vonden. Eén deelnemer vroeg zich spottend af: “Schrijven we hier een adviesrubriek voor Spock?”
Rho vatte de spanning samen: "Het vooroordeel van de ene gebruiker kan de personalisatie van een andere gebruiker zijn." De onderzoekers spreken van een "veiligheids-kans paradox" en roepen ontwikkelaars op tot meer transparantie en opties, zodat gebruikers meer controle krijgen over hoe persoonlijke identiteit informatie het antwoordvorming beïnvloedt.
Moeilijke woorden
- personalisatie — Aanpassen van antwoorden aan iemands achtergrond
- identiteitsinformatie — Gegevens over iemands persoonlijke identiteit
- stereotypeprikkel — Een prikkel die bij een stereotype paststereotypeprikkels
- vooroordeel — Een negatieve of bevooroordeelde mening
- betuttelend — Op een neerbuigende, beschermende manier
- transparantie — Duidelijkheid over processen en beslissingen
- paradox — Een schijnbare tegenstelling die samen bestaat
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Welke voor- en nadelen kunnen ontstaan wanneer een taalmodel advies personaliseert op basis van identiteit?
- Hoe zou meer transparantie gebruikers met autisme kunnen helpen volgens de tekst?
- Welke opties zou jij aan ontwikkelaars voorstellen om gebruikers meer controle over personalisatie te geven?
Gerelateerde artikelen
Rapport: Oeganda moet wetenschap en innovatie hervormen
Een rapport gepresenteerd op 21 juni zegt dat Oeganda zijn systemen voor wetenschap, technologie en innovatie moet verbeteren. Het rapport noemt een genderkloof, zwakke STI-financiering en pleit voor meer samenwerking met het bedrijfsleven.
Nieuwe kwetsbaarheid kan zelfrijdende auto's overnemen
Onderzoekers van Georgia Tech ontdekten VillainNet, een verborgen achterdeur in AI-supernetwerken die zelfrijdende auto's kan overnemen zodra een specifiek subnetwerk wordt gekozen. Ze waarschuwen voor moeilijk detecteerbare aanvallen en vragen om betere beveiliging.
Taalmodellen leren plausibiliteit van gebeurtenissen
Onderzoekers testten of moderne taalmodellen echte wereldkennis hebben. Ze vonden interne vectoren die plausibiliteitscategorieën weerspiegelen en die overeenkomen met menselijke oordelen, met mogelijke gevolgen voor betere betrouwbaarheid van modellen.