Onderzoekers hebben een webextensie ontwikkeld die gekoppeld is aan een groot taalmodel en die partijdige vijandigheid in iemands X-feed kan verminderen zonder berichten te verwijderen of directe medewerking van het platform. De extensie scant posts op antidemocratische houdingen — bijvoorbeeld oproepen tot geweld of het opsluiten van politieke tegenstanders — en herordent vervolgens de feed zodat dergelijke berichten lager of hoger verschijnen. Het systeem werkt in enkele seconden.
In veldexperimenten gebruikten ongeveer 1.200 vrijwilligers het hulpmiddel gedurende tien dagen tijdens de verkiezingen van 2024. In aparte zevendaagse proeven kregen deelnemersgroepen feeds waarin schadelijke inhoud werd downranked of upranked; een controlegroep zag geen herordening. De positie van berichten veranderde, maar er werden geen berichten verwijderd.
Deelnemers bij wie antidemocratische content werd downranked, meldden warmere gevoelens tegenover mensen van de andere partij, zowel onder mensen die zich als liberaal identificeerden als onder conservatieven. Onderzoekers maten houdingen vóór en na op een schaal van 1 tot 100 en vonden een gemiddelde verbetering van twee punten, een verandering die zij vergelijken met de geschatte maatschappelijke verandering over drie jaar. Co-auteurs noemen dat het hulpmiddel externe onderzoekers in staat stelt algoritmeontwerp te bestuderen; één onderzoeker zei dat deelnemers zich "warmer" voelden bij minder doelgerichte inhoud en "kouder" bij meer.
Het project bracht informatiewetenschap, computerwetenschap, psychologie en communicatie samen. De onderzoekers gebruikten sociologisch werk om categorieën schadelijke inhoud te definiëren, waaronder:
- afwijzing van tweepartijensamenwerking,
- twijfel aan feiten die de andere partij bevoordelen,
- bereidheid democratische principes op te geven voor een bevoordeelde partij.
De teamleden publiceerden de code zodat anderen onafhankelijke rankingsystemen kunnen bouwen. Het werk kreeg steun van de National Science Foundation, de Swiss National Science Foundation en een Hoffman‑Yee‑beurs van het Stanford Institute for Human‑Centered Artificial Intelligence; extra coauteurs komen van Northeastern en Stanford.
Moeilijke woorden
- webextensie — klein programma dat in de browser werkt
- taalmodel — computerprogramma dat tekst begrijpt en genereert
- partijdig — niet neutraal, met voorkeur voor één partijpartijdige
- vijandigheid — negatieve, agressieve houding tegenover anderen
- antidemocratisch — tegen de waarden en regels van democratieantidemocratische
- herordenen — berichten of items in een andere volgorde zettenherordent
- herordening — verandering van de volgorde van berichten
- veldexperiment — onderzoek in een echte situatie buiten het laboratoriumveldexperimenten
- feed — lijst met recente berichten op een sociaal netwerk
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Welke mogelijke voordelen en risico's ziet u als externe groepen hun eigen rankingsystemen kunnen bouwen voor sociale media feeds? Geef redenen.
- De onderzoekers vonden een gemiddelde verbetering van twee punten op een schaal van 1 tot 100. Hoe belangrijk vindt u zo'n verandering in politieke houdingen, en waarom?
- Denk u dat een tool die herordent zonder berichten te verwijderen voldoende is om schadelijke politieke inhoud te verminderen? Leg uit met voorbeelden of argumenten.
Gerelateerde artikelen
AI kan persoonlijkheid voorspellen uit taal
Onderzoekers vonden dat algemene AI-modellen zoals ChatGPT, Claude en LLaMa persoonlijkheid en dagelijks gedrag kunnen voorspellen uit wat mensen zeggen. De AI-scores kwamen vaak overeen met zelfbeoordelingen en voorspelden ook emoties en stress.
Digitaal geweld tegen vrouwelijke journalisten in Indonesië
Digitale aanvallen op vrouwelijke journalisten en activisten in Indonesië zijn de laatste jaren toegenomen. Slachtoffers melden doxing, foto‑manipulatie, DDoS en aanhoudende intimidatie; wetgeving en platforms bieden beperkt bescherming.
Gletsjermeren en gevaarlijke overstromingen in het Hindu Kush‑Himalaya‑gebied
Het Hindu Kush‑Himalaya‑gebied heeft veel gletsjers en mogelijk 8,900 gletsjermeren. Smeltende meren kunnen plotselinge overstromingen (GLOF's) veroorzaken. Experts roepen op tot gedeelde data, betere waarneming en meer regionale samenwerking.