Onderzoekers onderzochten of gewone AI-chatbotantwoorden mensen kunnen beïnvloeden. Ze zagen dat korte, feitelijke samenvattingen soms iemands mening veranderen wanneer de tekst een liberale of conservatieve kadering heeft.
De studie vergeleek AI-samenvattingen met informatie op Wikipedia. Zowel standaard-AI-teksten als liberale kadering leidden vaker tot liberale opvattingen. Conservatieve kadering had vooral effect bij mensen die al conservatief waren.
De onderzoekers zeggen dat dit komt door vooringenomenheden in de taalmodellen en waarschuwen voor de ondoorzichtigheid van chatbotontwikkeling.
Moeilijke woorden
- samenvatting — korte tekst met de belangrijkste informatiesamenvattingen
- kadering — manier waarop informatie wordt gepresenteerd
- vooringenomenheid — negatieve of positieve voorkeur in informatievooringenomenheden
- ondoorzichtigheid — niet duidelijk maken hoe iets werkt of gebeurt
- taalmodel — computerprogramma dat tekst genereert of begrijpttaalmodellen
- beïnvloeden — iemand of iets veranderen in gedrag of mening
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Heb je ooit een AI-samenvatting gelezen die je mening veranderde? Waarom?
- Waarom zijn vooringenomenheden in taalmodellen een probleem?
- Welke bron vertrouw jij meer: Wikipedia of een AI-samenvatting? Leg kort uit.
Gerelateerde artikelen
Vogelgriep bij zwarte gieren in de Verenigde Staten
Onderzoekers van de University of Georgia vonden H5N1-vogelgriep bij zwarte gieren in zeven staten. Ze waarschuwen dat jaarlange circulatie het risico op mutaties vergroot en grote gevolgen kan hebben voor zeldzame vogels en landbouwdieren.
Rapport: wetenschapsjournalistiek werd intensiever tijdens de pandemie
Een wereldwijde enquête van SciDev.Net en partners onderzocht hoe COVID-19 het werk van wetenschapsjournalisten veranderde. De studie laat hogere werkdruk, veel gebruik van preprints en zorgen over kwaliteit zien.
