Onderzoekers ontdekten dat grote taalmodellen (AI-systemen) bevooroordeeld zijn. Dit betekent dat ze een andere beoordeling geven, afhankelijk van wie de tekst schreef. Dit gebeurt zelfs als de tekst hetzelfde is.
Bijvoorbeeld, als een tekst als geschreven door een persoon uit China werd aangeduid, daalde de overeenkomst in beoordelingen sterk. Dit geeft aan dat LLM's, zoals ze noemt worden, beïnvloed worden door de identiteit van de auteur.
Het vertrouwen van LLM's in menselijke auteurs is hoger dan in andere AI's. Dit suggereert dat ze meer twijfelen aan machine-inhoud. Dit kan problemen veroorzaken als AI wordt gebruikt voor bijvoorbeeld moderatie of journalistiek.
Moeilijke woorden
- bevooroordeeld — Niet eerlijk; heeft een voorkeur of vooroordeel.
- beoordeling — Het geven van een mening of beoordeling.beoordelingen
- identiteit — Wie of wat iemand of iets is.
- vertrouwen — Geloven in iemand of iets zonder twijfels.
- suggereren — Iets voorstellen of aanduiden.suggereert
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Waarom denk je dat er een voorkeur is voor menselijke auteurs?
- Hoe kan het gebruik van AI in journalistiek problematisch zijn?
- Wat zijn de gevolgen van bevooroordeeld zijn voor AI-systemen?
Gerelateerde artikelen
Voordelen en kansen in de digitale economie moeten gelijker worden verdeeld
Dit artikel bespreekt de ongelijke verdeling van voordelen en kansen in de digitale economie met betrekking tot kunstmatige intelligentie.
Darwinisme uit Indiase schoolboeken verwijderd
Docenten in India vragen de overheid om Darwinistische evolutie terug te brengen in de schoolboeken. Dit kwam doordat de theorie werd verwijderd na de COVID-19 pandemie.
AI en de moderne rechtbanken in India
India moderniseert rechtbanken met e-Courts Phase III en AI-tools voor transcriptie, vertaling en onderzoek. Kerala verplicht Adalat.AI vanaf 1 november 2025, maar er zijn zorgen over fouten, vooringenomenheid en privacy.
Jonge innovatoren bestrijden het met arseen besmette water in India
Twee broers in India hebben een technologie ontwikkeld om arseen uit water te verwijderen. Hun oplossing is eenvoudig en kostenbesparend, en heeft al duizenden levens beïnvloed.
AI en burgers detecteren invasieve mug in Madagaskar
Onderzoekers gebruiken kunstmatige intelligentie en foto's van burgers om een invasieve mug te identificeren in Madagaskar.
Afrika heeft een nieuw vroegwaarschuwingssysteem voor het klimaat
Afrika heeft SEWA gelanceerd, een satellietgebaseerd systeem voor vroegtijdige waarschuwingen over klimaatverandering, om beter voorbereid te zijn op natuurrampen.