Onderzoekers van de University of Zurich onderzochten of grote taalmodellen een tekst anders beoordelen als ze weten wie de auteur is. Ze gebruikten vier modellen: OpenAI o3-mini, Deepseek Reasoner, xAI Grok 2 en Mistral. Elk model maakte 50 verhalende uitspraken over 24 controversiële onderwerpen en de onderzoekers verzamelden 192’000 beoordelingen.
Zonder informatie over de bron waren de modellen het meestal eens, met meer dan 90% overeenstemming. Toen de onderzoekers fictieve auteurs noemden, daalde de overeenstemming duidelijk. Alle modellen toonden een sterkere negatieve beoordeling wanneer de auteur uit China kwam. De onderzoekers waarschuwen dat dit gevolgen kan hebben voor moderatie, werving en journalistiek. Ze vragen meer transparantie en governance en zeggen dat LLMs hulpmiddelen moeten zijn, geen rechters.
Moeilijke woorden
- bevooroordeeld — Niet eerlijk; heeft een voorkeur of vooroordeel.
- beoordeling — Het geven van een mening of beoordeling.beoordelingen
- identiteit — Wie of wat iemand of iets is.
- vertrouwen — Geloven in iemand of iets zonder twijfels.
- suggereren — Iets voorstellen of aanduiden.suggereert
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Waarom denk je dat er een voorkeur is voor menselijke auteurs?
- Hoe kan het gebruik van AI in journalistiek problematisch zijn?
- Wat zijn de gevolgen van bevooroordeeld zijn voor AI-systemen?
Gerelateerde artikelen
AI helpt boeren met moessonvoorspellingen in India
Kunstmatige intelligentie gaf deze zomer 38 miljoen Indiase boeren een moessonvoorspelling met het model NeuralGCM. Het project groeit en onderzoekers willen dit werk uitbreiden naar tientallen andere landen en meteorologen trainen.
Inzamelingen via TikTok in Addis Ababa leiden tot beschuldigingen van fraude
Een TikTok-video over Tamru in Bole leidde tot grote donaties die bedoeld waren om een Bajaj te kopen. Er volgen extra betalingsverzoeken, onduidelijke rekeningen en geen duidelijke administratie, terwijl platforms en betaalregels een rol spelen.
Onderzoekers verbeteren veiligheid van grote taalmodellen
Onderzoekers van North Carolina State University onderzochten hoe veiligheidsafstemming werkt in grote taalmodellen. Ze ontwikkelden een methode om onveilige antwoorden te verminderen zonder de prestaties van het model te verliezen.
