Een studie, gepubliceerd in PNAS Nexus en geleid door een onderzoeksgroep van Yale, onderzoekt of gewone chatbotantwoorden politieke opvattingen kunnen beïnvloeden. De onderzoekers lieten deelnemers samenvattingen lezen van historische gebeurtenissen en vergeleken die met Wikipedia-tekst.
In het onderzoek lazen 1.912 deelnemers ofwel standaardsamenvattingen van GPT-4o, de bijbehorende Wikipedia-entries, of samenvattingen met prompts die een liberale of conservatieve kadering gaven. De standaard-AI-samenvattingen en de liberale prompts leidden tot meer liberale opvattingen vergeleken met Wikipedia. Conservatieve kadering leidde tot meer conservatieve opvattingen ten opzichte van Wikipedia.
De auteurs voeren de invloed terug op latente vooringenomenheden in de trainingsdata van grote taalmodellen. Ze merken op dat de effecten bescheiden zijn en dat chatbotontwikkeling minder transparant is dan bewerking op Wikipedia.
Moeilijke woorden
- samenvatting — korte tekst met de belangrijkste informatiesamenvattingen, standaardsamenvattingen, standaard-AI-samenvattingen
- kadering — manier waarop informatie wordt gepresenteerd
- latent — aanwezig maar niet direct zichtbaarlatente
- vooringenomenheid — oneerlijke of eenzijdige houding tegenover mensen of ideeënvooringenomenheden
- trainingsdata — gegevens die gebruikt zijn om modellen te trainen
- taalmodel — computerprogramma dat tekst begrijpt en genereerttaalmodellen
- transparant — duidelijk en open over werking of inhoud
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Zou jij je politieke mening laten beïnvloeden door een samenvatting van een chatbot? Waarom wel of niet?
- Hoe kun je controleren of een samenvatting neutraal is, bijvoorbeeld vergeleken met Wikipedia?
- Wat vind je van het idee dat vooringenomenheden in de trainingsdata invloed hebben op chatbotantwoorden?
Gerelateerde artikelen
Futurity: de tien meestgelezen onderzoeksverhalen van 2025
Futurity publiceerde eind 2025 een lijst met de tien meestgelezen onderzoeksberichten. De selectie beslaat onderwerpen als gezondheid, energie, archeologie, neurowetenschap, voeding en milieugezondheid. Lezers zijn uitgenodigd in 2026 terug te komen.
Vaste telefoon of smartphone: wanneer is een kind er klaar voor?
Ouders vragen zich af wanneer een kind een eigen telefoon krijgt. Deskundigen van Virginia Tech noemen vaak de middelbare schoolleeftijd en wijzen op voordelen van een vaste huistelefoon en op het belang van praten en regels.
Bandung 1955 en de hedendaagse banden tussen Afrika en Indonesië
De Bandungsconferentie van 1955 legde een basis voor een gedeelde Azië-Afrika identiteit. Vandaag blijven culturele uitwisselingen, migratie, muziek en studies groeien, met projecten als Disko Afrika en het platform Bandung Spirit.
Nieuwe methode voor recycling van lithium‑ionbatterijen
Onderzoekers van Rice University beschrijven het FJH‑ClO tweestapsproces om lithium en overgangsmetalen uit gebruikte lithium‑ionbatterijen terug te winnen. Het proces is zuurvrij, geeft minder afval en is aangetoond op laboratoriumschaal.