Onderzoekers hebben een webextensie ontwikkeld die gekoppeld is aan een groot taalmodel en die partijdige vijandigheid in iemands X-feed kan verminderen zonder berichten te verwijderen of directe medewerking van het platform. De extensie scant posts op antidemocratische houdingen — bijvoorbeeld oproepen tot geweld of het opsluiten van politieke tegenstanders — en herordent vervolgens de feed zodat dergelijke berichten lager of hoger verschijnen. Het systeem werkt in enkele seconden.
In veldexperimenten gebruikten ongeveer 1.200 vrijwilligers het hulpmiddel gedurende tien dagen tijdens de verkiezingen van 2024. In aparte zevendaagse proeven kregen deelnemersgroepen feeds waarin schadelijke inhoud werd downranked of upranked; een controlegroep zag geen herordening. De positie van berichten veranderde, maar er werden geen berichten verwijderd.
Deelnemers bij wie antidemocratische content werd downranked, meldden warmere gevoelens tegenover mensen van de andere partij, zowel onder mensen die zich als liberaal identificeerden als onder conservatieven. Onderzoekers maten houdingen vóór en na op een schaal van 1 tot 100 en vonden een gemiddelde verbetering van twee punten, een verandering die zij vergelijken met de geschatte maatschappelijke verandering over drie jaar. Co-auteurs noemen dat het hulpmiddel externe onderzoekers in staat stelt algoritmeontwerp te bestuderen; één onderzoeker zei dat deelnemers zich "warmer" voelden bij minder doelgerichte inhoud en "kouder" bij meer.
Het project bracht informatiewetenschap, computerwetenschap, psychologie en communicatie samen. De onderzoekers gebruikten sociologisch werk om categorieën schadelijke inhoud te definiëren, waaronder:
- afwijzing van tweepartijensamenwerking,
- twijfel aan feiten die de andere partij bevoordelen,
- bereidheid democratische principes op te geven voor een bevoordeelde partij.
De teamleden publiceerden de code zodat anderen onafhankelijke rankingsystemen kunnen bouwen. Het werk kreeg steun van de National Science Foundation, de Swiss National Science Foundation en een Hoffman‑Yee‑beurs van het Stanford Institute for Human‑Centered Artificial Intelligence; extra coauteurs komen van Northeastern en Stanford.
Moeilijke woorden
- webextensie — klein programma dat in de browser werkt
- taalmodel — computerprogramma dat tekst begrijpt en genereert
- partijdig — niet neutraal, met voorkeur voor één partijpartijdige
- vijandigheid — negatieve, agressieve houding tegenover anderen
- antidemocratisch — tegen de waarden en regels van democratieantidemocratische
- herordenen — berichten of items in een andere volgorde zettenherordent
- herordening — verandering van de volgorde van berichten
- veldexperiment — onderzoek in een echte situatie buiten het laboratoriumveldexperimenten
- feed — lijst met recente berichten op een sociaal netwerk
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Welke mogelijke voordelen en risico's ziet u als externe groepen hun eigen rankingsystemen kunnen bouwen voor sociale media feeds? Geef redenen.
- De onderzoekers vonden een gemiddelde verbetering van twee punten op een schaal van 1 tot 100. Hoe belangrijk vindt u zo'n verandering in politieke houdingen, en waarom?
- Denk u dat een tool die herordent zonder berichten te verwijderen voldoende is om schadelijke politieke inhoud te verminderen? Leg uit met voorbeelden of argumenten.
Gerelateerde artikelen
Nieuwe methode verlaagt CO2 en beschermt servers
Onderzoekers stellen Federated Carbon Intelligence (FCI) voor: een systeem dat realtime servergezondheid en milieugegevens koppelt om CO2-uitstoot te verminderen en hardware langer te laten werken. Simulaties tonen grote winst; testen in echte datacenters is de volgende stap.
T-cellen in amandelen verschillen duidelijk van bloed
Onderzoekers vonden dat T-cellen uit amandelen op meerdere punten afwijken van T-cellen in bloed. De studie gebruikte cel-voor-cel-analyse op amandel- en bloedmonsters en benadrukt dat weefsels belangrijk zijn voor vaccin- en immunotherapieonderzoek.
Groepering van Engelsleerlingen beïnvloedt schoolresultaten
Twee studies onderzochten het samenplaatsen van leerlingen die Engels leren. Eén studie gebruikte gegevens van 31,303 middelbare scholieren in New York; een andere deed een gerandomiseerd basisschoolonderzoek met 84 leerlingen.
Computeroefeningen verbeteren hersenen na letsel
Nieuw onderzoek laat zien dat volwassenen met traumatisch hersenletsel door gecomputeriseerde cognitieve oefeningen de structuur van de hersenen en denkvaardigheden kunnen verbeteren, met aanwijzingen voor neuroplasticiteit en betere testresultaten.
