Een studie, gepubliceerd in PNAS Nexus en geleid door een onderzoeksgroep van Yale, onderzoekt of gewone chatbotantwoorden politieke opvattingen kunnen beïnvloeden. De onderzoekers lieten deelnemers samenvattingen lezen van historische gebeurtenissen en vergeleken die met Wikipedia-tekst.
In het onderzoek lazen 1.912 deelnemers ofwel standaardsamenvattingen van GPT-4o, de bijbehorende Wikipedia-entries, of samenvattingen met prompts die een liberale of conservatieve kadering gaven. De standaard-AI-samenvattingen en de liberale prompts leidden tot meer liberale opvattingen vergeleken met Wikipedia. Conservatieve kadering leidde tot meer conservatieve opvattingen ten opzichte van Wikipedia.
De auteurs voeren de invloed terug op latente vooringenomenheden in de trainingsdata van grote taalmodellen. Ze merken op dat de effecten bescheiden zijn en dat chatbotontwikkeling minder transparant is dan bewerking op Wikipedia.
Moeilijke woorden
- samenvatting — korte tekst met de belangrijkste informatiesamenvattingen, standaardsamenvattingen, standaard-AI-samenvattingen
- kadering — manier waarop informatie wordt gepresenteerd
- latent — aanwezig maar niet direct zichtbaarlatente
- vooringenomenheid — oneerlijke of eenzijdige houding tegenover mensen of ideeënvooringenomenheden
- trainingsdata — gegevens die gebruikt zijn om modellen te trainen
- taalmodel — computerprogramma dat tekst begrijpt en genereerttaalmodellen
- transparant — duidelijk en open over werking of inhoud
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Zou jij je politieke mening laten beïnvloeden door een samenvatting van een chatbot? Waarom wel of niet?
- Hoe kun je controleren of een samenvatting neutraal is, bijvoorbeeld vergeleken met Wikipedia?
- Wat vind je van het idee dat vooringenomenheden in de trainingsdata invloed hebben op chatbotantwoorden?
Gerelateerde artikelen
Nieuw molecuul slaat zonlicht op en geeft het vrij als warmte
Chemici van UC Santa Barbara ontwikkelden een aangepast organisch molecuul (pyrimidone) dat zonlicht opslaat in chemische bindingen en op verzoek warmte afgeeft. Het materiaal is herbruikbaar, lost op in water en kan water verwarmen.
Elektriciteit en internet blokkeren AI-toegang in Sub-Sahara Afrika
Onbetrouwbare elektriciteit en dure, trage internetverbindingen beperken het gebruik van kunstmatige intelligentie in Sub-Sahara Afrika. Daardoor hebben veel scholen, gezondheidscentra en startups weinig voordeel van AI.
VN: bijna één miljard heeft geen toegang tot hulpmiddelen
Een VN-rapport, gepresenteerd op 16 May door WHO en UNICEF, zegt dat veel mensen geen hulpmiddelen zoals brillen of protheses kunnen krijgen. De behoefte groeit door vergrijzing en ziekten; het rapport roept op tot betere toegang.
Meer data en technologie bij de Winterspelen 2026
De Winterspelen van 2026 gebruiken meer data en nieuwe technologieën. Teams, onderzoekers en media gebruiken analyses om training, verslaggeving en het begrip van prestaties te veranderen, maar er blijven vragen over eerlijkheid en toegang.
Sociale media geven vroege signalen van ontheemding
Onderzoekers vinden dat berichten op sociale media vroegtijdige signalen kunnen geven van bevolkingsbewegingen tijdens crises. De studie onderzoekt methoden om te voorspellen wanneer en waar mensen verplaatsen en vergelijkt meerdere casussen en datasettypen.