Nieuw onderzoek, gepubliceerd in PNAS Nexus en met onderzoekers van Yale en Rutgers, laat zien dat AI-chatbots de sociale en politieke opvattingen van gebruikers kunnen beïnvloeden via subtiele kadering. De studie werd geleid door Matthew Shu, een afgestudeerde van Yale College in 2025, en gebruikte gecontroleerde vergelijkingen tussen AI-teksten en Wikipedia.
In het proefontwerp lazen 1.912 deelnemers samenvattingen over twee gebeurtenissen uit de twintigste eeuw: de Seattle General Strike (vijf dagen, februari 1919) en de Third World Liberation Front-protesten in 1968. De teksten waren ofwel standaardsamenvattingen van GPT-4o, echte Wikipedia-entries, of samenvattingen die met prompts een liberale of conservatieve kadering kregen.
De resultaten tonen dat zowel de standaard-AI-samenvattingen als liberale prompts deelnemers meer liberale opvattingen deden uiten dan Wikipedia. Conservatieve kadering leidde tot meer conservatieve opvattingen, maar dat effect was statistisch significant vooral bij deelnemers die zichzelf als conservatief identificeerden. De auteurs schrijven dat liberale verschuivingen in standaardsamenvattingen wijzen op latente vooringenomenheid in LLM-training, terwijl conservatieve kadering vaker promptgedreven lijkt.
- Belangrijk: effecten zijn bescheiden maar reëel.
- Oorzaak: ideologische neigingen in trainingsdata.
- Waarschuwing: ontwikkeling van chatbots is minder transparant dan Wikipedia.
Moeilijke woorden
- kadering — presentatie of manier van informatie geven
- subtiel — klein en moeilijk direct op te merken verschilsubtiele
- proefontwerp — manier waarop een wetenschappelijk experiment is opgesteld
- prompt — korte instructie die een AI-model stuurtprompts
- conservatief — politiek standpunt dat veranderingen liever beperktconservatieve
- vooringenomenheid — neiging die leidt tot een niet-objectief oordeel
- statistisch significant — effect dat volgens analyse niet door toeval is
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Welke risico's ziet u als chatbots subtiele kadering gebruiken bij historische teksten?
- Hoe zou meer transparantie in AI-samenvattingen het vertrouwen van gebruikers kunnen veranderen, vergeleken met Wikipedia?
- Wat betekenen liberale verschuivingen in standaardsamenvattingen voor het gebruik van AI in onderwijs of nieuws?
Gerelateerde artikelen
Foute identificatie in massagraf van Perus gecorrigeerd
In april 2025 correcteerden onderzoekers een decennialange verkeerde identificatie van een slachtoffer uit het Perus-massagraf. DNA-tests toonden aan dat de resten die in 1991 als Dênis Casemiro waren begraven, niet overeenkwamen met zijn familie.