Een studie, gepubliceerd in PNAS Nexus en geleid door een onderzoeksgroep van Yale, onderzoekt of gewone chatbotantwoorden politieke opvattingen kunnen beïnvloeden. De onderzoekers lieten deelnemers samenvattingen lezen van historische gebeurtenissen en vergeleken die met Wikipedia-tekst.
In het onderzoek lazen 1.912 deelnemers ofwel standaardsamenvattingen van GPT-4o, de bijbehorende Wikipedia-entries, of samenvattingen met prompts die een liberale of conservatieve kadering gaven. De standaard-AI-samenvattingen en de liberale prompts leidden tot meer liberale opvattingen vergeleken met Wikipedia. Conservatieve kadering leidde tot meer conservatieve opvattingen ten opzichte van Wikipedia.
De auteurs voeren de invloed terug op latente vooringenomenheden in de trainingsdata van grote taalmodellen. Ze merken op dat de effecten bescheiden zijn en dat chatbotontwikkeling minder transparant is dan bewerking op Wikipedia.
Moeilijke woorden
- samenvatting — korte tekst met de belangrijkste informatiesamenvattingen, standaardsamenvattingen, standaard-AI-samenvattingen
- kadering — manier waarop informatie wordt gepresenteerd
- latent — aanwezig maar niet direct zichtbaarlatente
- vooringenomenheid — oneerlijke of eenzijdige houding tegenover mensen of ideeënvooringenomenheden
- trainingsdata — gegevens die gebruikt zijn om modellen te trainen
- taalmodel — computerprogramma dat tekst begrijpt en genereerttaalmodellen
- transparant — duidelijk en open over werking of inhoud
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Zou jij je politieke mening laten beïnvloeden door een samenvatting van een chatbot? Waarom wel of niet?
- Hoe kun je controleren of een samenvatting neutraal is, bijvoorbeeld vergeleken met Wikipedia?
- Wat vind je van het idee dat vooringenomenheden in de trainingsdata invloed hebben op chatbotantwoorden?
Gerelateerde artikelen
Nieuwe kwetsbaarheid kan zelfrijdende auto's overnemen
Onderzoekers van Georgia Tech ontdekten VillainNet, een verborgen achterdeur in AI-supernetwerken die zelfrijdende auto's kan overnemen zodra een specifiek subnetwerk wordt gekozen. Ze waarschuwen voor moeilijk detecteerbare aanvallen en vragen om betere beveiliging.
Cycloon Ditwah veroorzaakt zware verwoesting in Sri Lanka
Cycloon Ditwah trof Sri Lanka vorige maand en veroorzaakte grote overstromingen, aardverschuivingen en vele doden. Experts zeggen dat waarschuwingen en ruimtelijke richtlijnen niet werden opgevolgd en roepen op tot wetenschappelijke, betere planning bij het herbouwen.
