Een team van wetenschappers onderzocht of taalmodellen iets van de echte wereld begrijpen. Ze gaven zinnen met verschillende plausibiliteit: gewone, onwaarschijnlijke, onmogelijke en onsamenhangende voorbeelden.
De onderzoekers bestudeerden de interne wiskundige toestanden van de modellen, een aanpak die mechanistische interpretabiliteit heet. Ze zagen dat modellen speciale vectoren vormen die verschillende plausibiliteitscategorieën aangeven. Dit resultaat kan helpen om modellen begrijpelijker en betrouwbaarder te maken.
Moeilijke woorden
- wetenschapper — Iemand die systematisch onderzoek doetwetenschappers
- taalmodel — Computerprogramma dat tekst begrijpt of genereerttaalmodellen
- plausibiliteit — Hoe waarschijnlijk of logisch iets lijkt
- mechanistische interpretabiliteit — Methode om interne werking van modellen te begrijpen
- vector — Een wiskundige lijst met getallen die informatie bevatvectoren
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Denk je dat een taalmodel iets van de echte wereld kan begrijpen? Waarom?
- Waarom is het belangrijk dat modellen begrijpelijker en betrouwbaarder zijn?
- Welke van de vier types zinnen zou jij aan een model geven? Noem er één
Gerelateerde artikelen
Burgerwetenschap helpt meten van gezondheid en SDG's
Een systematische review concludeert dat burgerwetenschap waardevol is voor het volgen van veel gezondheid- en welzijnsdoelen in de SDG's en de WHO Triple Billion Targets. Ook praktijkvoorbeelden tonen hoe lokale gegevens hiaten kunnen dichten.
Kunstmatige intelligentie in Amerikaanse scholen: kansen en zorgen
Kunstmatige intelligentie komt in veel Amerikaanse scholen en bedrijven investeren in training voor leraren. Een onderzoek van de University of Washington vond gemengde reacties: minder werkdruk voor routinetaken, maar ook zorgen over sociale aspecten en ongelijkheid.
Videospel helpt kinderen oefenen met wetenschap
Onderzoekers ontwikkelden het spel Virtual Vet om basisschoolleerlingen te laten oefenen met wetenschappelijke vaardigheden en redeneerwerk. In tests behaalden kinderen die het spel speelden gemiddeld hogere scores dan bij traditionele klassikale activiteiten.
