Onderzoekers onderzochten of gewone AI-chatbotantwoorden mensen kunnen beïnvloeden. Ze zagen dat korte, feitelijke samenvattingen soms iemands mening veranderen wanneer de tekst een liberale of conservatieve kadering heeft.
De studie vergeleek AI-samenvattingen met informatie op Wikipedia. Zowel standaard-AI-teksten als liberale kadering leidden vaker tot liberale opvattingen. Conservatieve kadering had vooral effect bij mensen die al conservatief waren.
De onderzoekers zeggen dat dit komt door vooringenomenheden in de taalmodellen en waarschuwen voor de ondoorzichtigheid van chatbotontwikkeling.
Moeilijke woorden
- samenvatting — korte tekst met de belangrijkste informatiesamenvattingen
- kadering — manier waarop informatie wordt gepresenteerd
- vooringenomenheid — negatieve of positieve voorkeur in informatievooringenomenheden
- ondoorzichtigheid — niet duidelijk maken hoe iets werkt of gebeurt
- taalmodel — computerprogramma dat tekst genereert of begrijpttaalmodellen
- beïnvloeden — iemand of iets veranderen in gedrag of mening
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Heb je ooit een AI-samenvatting gelezen die je mening veranderde? Waarom?
- Waarom zijn vooringenomenheden in taalmodellen een probleem?
- Welke bron vertrouw jij meer: Wikipedia of een AI-samenvatting? Leg kort uit.
Gerelateerde artikelen
AI en nepnieuws tijdens verkiezing in Bangladesh
Bangladesh hield op 12 februari een nationale verkiezing na een studentenopstand. In de aanloop speelde kunstmatige intelligentie (AI) een grote rol: er verschenen veel door AI gemaakte foto’s, video’s en valse citaten die de campagne beïnvloedden.
Metalen buizen die niet zinken
Onderzoekers van de University of Rochester ontwikkelden metalen buizen met een superhydrofob binnenoppervlak. De buizen houden een luchtbel vast en blijven zo drijven; ze werden in laboratoriumproeven robuust getest en kunnen meerdere toepassingen hebben.
Titan heeft mogelijk geen diepe oceaan, maar een papperige binnenlaag
Heranalyse van Cassini-gegevens suggereert dat Titan misschien geen wereldomvattende oceaan heeft. De waarnemingen passen beter bij een dikke, papperige laag met tunnels en waterzakken en dat verandert ideeën over bewoonbaarheid.
Feestverlichting en energie besparen
Veel mensen versieren hun huis met feestverlichting en de keuze van lampen kan de elektriciteitsrekening verhogen. Scott Dunning van Virginia Tech geeft tips: vervang gloeilampen door LED, overweeg zonne-gevoede lampen en gebruik timers voor grote versieringen.
Generatieve AI vergroot online gendergeweld in Nigeria
Nieuwe generatieve AI op sociale media vergroot volgens onderzoeken het online geweld tegen vrouwen in Nigeria. Onderzoekers en organisaties waarschuwen voor beelden zonder toestemming en stellen maatregelen voor, maar invoering blijft onzeker.