Onderzoekers hebben een webextensie ontwikkeld die gekoppeld is aan een groot taalmodel en die partijdige vijandigheid in iemands X-feed kan verminderen zonder berichten te verwijderen of directe medewerking van het platform. De extensie scant posts op antidemocratische houdingen — bijvoorbeeld oproepen tot geweld of het opsluiten van politieke tegenstanders — en herordent vervolgens de feed zodat dergelijke berichten lager of hoger verschijnen. Het systeem werkt in enkele seconden.
In veldexperimenten gebruikten ongeveer 1.200 vrijwilligers het hulpmiddel gedurende tien dagen tijdens de verkiezingen van 2024. In aparte zevendaagse proeven kregen deelnemersgroepen feeds waarin schadelijke inhoud werd downranked of upranked; een controlegroep zag geen herordening. De positie van berichten veranderde, maar er werden geen berichten verwijderd.
Deelnemers bij wie antidemocratische content werd downranked, meldden warmere gevoelens tegenover mensen van de andere partij, zowel onder mensen die zich als liberaal identificeerden als onder conservatieven. Onderzoekers maten houdingen vóór en na op een schaal van 1 tot 100 en vonden een gemiddelde verbetering van twee punten, een verandering die zij vergelijken met de geschatte maatschappelijke verandering over drie jaar. Co-auteurs noemen dat het hulpmiddel externe onderzoekers in staat stelt algoritmeontwerp te bestuderen; één onderzoeker zei dat deelnemers zich "warmer" voelden bij minder doelgerichte inhoud en "kouder" bij meer.
Het project bracht informatiewetenschap, computerwetenschap, psychologie en communicatie samen. De onderzoekers gebruikten sociologisch werk om categorieën schadelijke inhoud te definiëren, waaronder:
- afwijzing van tweepartijensamenwerking,
- twijfel aan feiten die de andere partij bevoordelen,
- bereidheid democratische principes op te geven voor een bevoordeelde partij.
De teamleden publiceerden de code zodat anderen onafhankelijke rankingsystemen kunnen bouwen. Het werk kreeg steun van de National Science Foundation, de Swiss National Science Foundation en een Hoffman‑Yee‑beurs van het Stanford Institute for Human‑Centered Artificial Intelligence; extra coauteurs komen van Northeastern en Stanford.
Moeilijke woorden
- webextensie — klein programma dat in de browser werkt
- taalmodel — computerprogramma dat tekst begrijpt en genereert
- partijdig — niet neutraal, met voorkeur voor één partijpartijdige
- vijandigheid — negatieve, agressieve houding tegenover anderen
- antidemocratisch — tegen de waarden en regels van democratieantidemocratische
- herordenen — berichten of items in een andere volgorde zettenherordent
- herordening — verandering van de volgorde van berichten
- veldexperiment — onderzoek in een echte situatie buiten het laboratoriumveldexperimenten
- feed — lijst met recente berichten op een sociaal netwerk
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Welke mogelijke voordelen en risico's ziet u als externe groepen hun eigen rankingsystemen kunnen bouwen voor sociale media feeds? Geef redenen.
- De onderzoekers vonden een gemiddelde verbetering van twee punten op een schaal van 1 tot 100. Hoe belangrijk vindt u zo'n verandering in politieke houdingen, en waarom?
- Denk u dat een tool die herordent zonder berichten te verwijderen voldoende is om schadelijke politieke inhoud te verminderen? Leg uit met voorbeelden of argumenten.
Gerelateerde artikelen
LHBTQ+-rechten en queerherinnering in Tsjechië
In Tsjechië bestaan over het algemeen tolerante houdingen, maar politieke aanvallen en discriminatie blijven. Er zijn juridische stappen sinds 1961 en projecten zoals de onlinekaart Queer Prague bewaren queergeschiedenis en zichtbaarheid.
Stroomuitval in Bamenda en groei van zonne-energie
Bewoners van Mile Four in Bamenda hebben al bijna twee jaar last van onregelmatige stroom. Minder water in hydrocentrales en stilgelegde thermische centrales leidden tot rationering; veel huizen investeren nu in zonnepanelen en gezamenlijke transformatoren.
AI-koptelefoon isoleert stemmen in lawaai
Onderzoekers ontwikkelden een prototype-koptelefoon die met kunstmatige intelligentie het beurtwisselingsritme van een gesprek volgt en zo stemmen van gesprekspartners isoleert. Het systeem werkt met korte audiofragmenten en de code is open-source.
