Nieuw onderzoek, gepubliceerd in PNAS Nexus en met onderzoekers van Yale en Rutgers, laat zien dat AI-chatbots de sociale en politieke opvattingen van gebruikers kunnen beïnvloeden via subtiele kadering. De studie werd geleid door Matthew Shu, een afgestudeerde van Yale College in 2025, en gebruikte gecontroleerde vergelijkingen tussen AI-teksten en Wikipedia.
In het proefontwerp lazen 1.912 deelnemers samenvattingen over twee gebeurtenissen uit de twintigste eeuw: de Seattle General Strike (vijf dagen, februari 1919) en de Third World Liberation Front-protesten in 1968. De teksten waren ofwel standaardsamenvattingen van GPT-4o, echte Wikipedia-entries, of samenvattingen die met prompts een liberale of conservatieve kadering kregen.
De resultaten tonen dat zowel de standaard-AI-samenvattingen als liberale prompts deelnemers meer liberale opvattingen deden uiten dan Wikipedia. Conservatieve kadering leidde tot meer conservatieve opvattingen, maar dat effect was statistisch significant vooral bij deelnemers die zichzelf als conservatief identificeerden. De auteurs schrijven dat liberale verschuivingen in standaardsamenvattingen wijzen op latente vooringenomenheid in LLM-training, terwijl conservatieve kadering vaker promptgedreven lijkt.
- Belangrijk: effecten zijn bescheiden maar reëel.
- Oorzaak: ideologische neigingen in trainingsdata.
- Waarschuwing: ontwikkeling van chatbots is minder transparant dan Wikipedia.
Moeilijke woorden
- kadering — presentatie of manier van informatie geven
- subtiel — klein en moeilijk direct op te merken verschilsubtiele
- proefontwerp — manier waarop een wetenschappelijk experiment is opgesteld
- prompt — korte instructie die een AI-model stuurtprompts
- conservatief — politiek standpunt dat veranderingen liever beperktconservatieve
- vooringenomenheid — neiging die leidt tot een niet-objectief oordeel
- statistisch significant — effect dat volgens analyse niet door toeval is
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Welke risico's ziet u als chatbots subtiele kadering gebruiken bij historische teksten?
- Hoe zou meer transparantie in AI-samenvattingen het vertrouwen van gebruikers kunnen veranderen, vergeleken met Wikipedia?
- Wat betekenen liberale verschuivingen in standaardsamenvattingen voor het gebruik van AI in onderwijs of nieuws?
Gerelateerde artikelen
Uitdagingen en successen in het Caribisch gebied
Het Caribisch gebied kende spanningen tussen landen en opvallende culturele en sportieve successen. Klimaat- en milieukwesties, politieke discussies en internationale relaties bepaalden het jaar, terwijl artiesten en teams regionale erkenning kregen.
Hoe schimmels na bosbranden houtskool gebruiken
Onderzoekers van de University of California, Riverside vonden dat schimmels na brand genetische en fysieke strategieën hebben om houtskool te gebruiken. De bevindingen, gepubliceerd in Proceedings of the National Academy of Sciences, wijzen op mogelijke toepassingen bij opruiming en herstel.
