Nieuw onderzoek, gepubliceerd in PNAS Nexus en met onderzoekers van Yale en Rutgers, laat zien dat AI-chatbots de sociale en politieke opvattingen van gebruikers kunnen beïnvloeden via subtiele kadering. De studie werd geleid door Matthew Shu, een afgestudeerde van Yale College in 2025, en gebruikte gecontroleerde vergelijkingen tussen AI-teksten en Wikipedia.
In het proefontwerp lazen 1.912 deelnemers samenvattingen over twee gebeurtenissen uit de twintigste eeuw: de Seattle General Strike (vijf dagen, februari 1919) en de Third World Liberation Front-protesten in 1968. De teksten waren ofwel standaardsamenvattingen van GPT-4o, echte Wikipedia-entries, of samenvattingen die met prompts een liberale of conservatieve kadering kregen.
De resultaten tonen dat zowel de standaard-AI-samenvattingen als liberale prompts deelnemers meer liberale opvattingen deden uiten dan Wikipedia. Conservatieve kadering leidde tot meer conservatieve opvattingen, maar dat effect was statistisch significant vooral bij deelnemers die zichzelf als conservatief identificeerden. De auteurs schrijven dat liberale verschuivingen in standaardsamenvattingen wijzen op latente vooringenomenheid in LLM-training, terwijl conservatieve kadering vaker promptgedreven lijkt.
- Belangrijk: effecten zijn bescheiden maar reëel.
- Oorzaak: ideologische neigingen in trainingsdata.
- Waarschuwing: ontwikkeling van chatbots is minder transparant dan Wikipedia.
Moeilijke woorden
- kadering — presentatie of manier van informatie geven
- subtiel — klein en moeilijk direct op te merken verschilsubtiele
- proefontwerp — manier waarop een wetenschappelijk experiment is opgesteld
- prompt — korte instructie die een AI-model stuurtprompts
- conservatief — politiek standpunt dat veranderingen liever beperktconservatieve
- vooringenomenheid — neiging die leidt tot een niet-objectief oordeel
- statistisch significant — effect dat volgens analyse niet door toeval is
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Welke risico's ziet u als chatbots subtiele kadering gebruiken bij historische teksten?
- Hoe zou meer transparantie in AI-samenvattingen het vertrouwen van gebruikers kunnen veranderen, vergeleken met Wikipedia?
- Wat betekenen liberale verschuivingen in standaardsamenvattingen voor het gebruik van AI in onderwijs of nieuws?
Gerelateerde artikelen
Fluorescentie helpt celcyclus van Toxoplasma te begrijpen
Onderzoekers volgden met een aangepast fluorescerend afbeeldingssysteem de groei van Toxoplasma gondii in realtime. Ze vonden een eiwit, PCNA1, waarmee ze de celcyclus in kaart brachten en zoeken nu naar zwakke plekken voor medicijnen.
Nieuwe studie: brede bezorgdheid over Amerikaanse democratie
Een studie van het SNF Agora Institute (Johns Hopkins) en Public Agenda toont dat veel Amerikanen bezorgd zijn over de democratie. De onderzoekers gebruikten een peiling onder 4.500 Amerikanen, eerder onderzoek en drie Republikeinse focusgroepen.
Kazachstan sluit akkoord met China voor kerncentrales
Kazachstan heeft met China afgesproken zijn tweede en derde kerncentrales te bouwen. De stap moet het tekort aan elektriciteit verminderen en de afhankelijkheid van kolen verkleinen, maar roept zorgen op door eerder nucleair verleden.
Moleculaire timers en de rol van de thalamus bij herinnering
Nieuw onderzoek toont dat meerdere moleculaire timers in verschillende hersengebieden bepalen of korte indrukken veranderen in langetermijnherinneringen. De studie noemt de thalamus als onverwachte schakel en bespreekt mogelijke gevolgen voor geheugenstoornissen.