Een studie, gepubliceerd in PNAS Nexus en geleid door een onderzoeksgroep van Yale, onderzoekt of gewone chatbotantwoorden politieke opvattingen kunnen beïnvloeden. De onderzoekers lieten deelnemers samenvattingen lezen van historische gebeurtenissen en vergeleken die met Wikipedia-tekst.
In het onderzoek lazen 1.912 deelnemers ofwel standaardsamenvattingen van GPT-4o, de bijbehorende Wikipedia-entries, of samenvattingen met prompts die een liberale of conservatieve kadering gaven. De standaard-AI-samenvattingen en de liberale prompts leidden tot meer liberale opvattingen vergeleken met Wikipedia. Conservatieve kadering leidde tot meer conservatieve opvattingen ten opzichte van Wikipedia.
De auteurs voeren de invloed terug op latente vooringenomenheden in de trainingsdata van grote taalmodellen. Ze merken op dat de effecten bescheiden zijn en dat chatbotontwikkeling minder transparant is dan bewerking op Wikipedia.
Moeilijke woorden
- samenvatting — korte tekst met de belangrijkste informatiesamenvattingen, standaardsamenvattingen, standaard-AI-samenvattingen
- kadering — manier waarop informatie wordt gepresenteerd
- latent — aanwezig maar niet direct zichtbaarlatente
- vooringenomenheid — oneerlijke of eenzijdige houding tegenover mensen of ideeënvooringenomenheden
- trainingsdata — gegevens die gebruikt zijn om modellen te trainen
- taalmodel — computerprogramma dat tekst begrijpt en genereerttaalmodellen
- transparant — duidelijk en open over werking of inhoud
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Zou jij je politieke mening laten beïnvloeden door een samenvatting van een chatbot? Waarom wel of niet?
- Hoe kun je controleren of een samenvatting neutraal is, bijvoorbeeld vergeleken met Wikipedia?
- Wat vind je van het idee dat vooringenomenheden in de trainingsdata invloed hebben op chatbotantwoorden?
Gerelateerde artikelen
AI helpt tabaksmarketing tegen jongeren tegengaan
Tijdens een conferentie in Dublin zeiden experts dat AI kan helpen voorkomen dat tabaksbedrijven jongeren online gericht benaderen. Voorbeelden uit Indonesië, India en Mexico laten zien hoe AI marketing opspoort en beleidsmakers informeert.
Directe beelden van novae tonen meerdere uitstromen
Astronomen gebruikten interferometrie bij het CHARA Array om twee novae kort na hun uitbarstingen te fotograferen. De beelden tonen meerdere uitstromen, vertraagde uitwerping en koppelen botsende stromen aan gammastraling die Fermi detecteerde.
Stroomuitval in Bamenda en groei van zonne-energie
Bewoners van Mile Four in Bamenda hebben al bijna twee jaar last van onregelmatige stroom. Minder water in hydrocentrales en stilgelegde thermische centrales leidden tot rationering; veel huizen investeren nu in zonnepanelen en gezamenlijke transformatoren.
Microben overleven inslagpuin mogelijk naar andere planeten
Een studie toont dat een woestijnbacterie in puin van asteroïde-inslagen extreme drukken kan overleven. Dit suggereert dat leven via gesteente naar andere hemellichamen kan reizen en roept vragen op voor planetenbescherming.
