Een team van wetenschappers onderzocht of taalmodellen iets van de echte wereld begrijpen. Ze gaven zinnen met verschillende plausibiliteit: gewone, onwaarschijnlijke, onmogelijke en onsamenhangende voorbeelden.
De onderzoekers bestudeerden de interne wiskundige toestanden van de modellen, een aanpak die mechanistische interpretabiliteit heet. Ze zagen dat modellen speciale vectoren vormen die verschillende plausibiliteitscategorieën aangeven. Dit resultaat kan helpen om modellen begrijpelijker en betrouwbaarder te maken.
Moeilijke woorden
- wetenschapper — Iemand die systematisch onderzoek doetwetenschappers
- taalmodel — Computerprogramma dat tekst begrijpt of genereerttaalmodellen
- plausibiliteit — Hoe waarschijnlijk of logisch iets lijkt
- mechanistische interpretabiliteit — Methode om interne werking van modellen te begrijpen
- vector — Een wiskundige lijst met getallen die informatie bevatvectoren
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Denk je dat een taalmodel iets van de echte wereld kan begrijpen? Waarom?
- Waarom is het belangrijk dat modellen begrijpelijker en betrouwbaarder zijn?
- Welke van de vier types zinnen zou jij aan een model geven? Noem er één
Gerelateerde artikelen
Fluorescentie helpt celcyclus van Toxoplasma te begrijpen
Onderzoekers volgden met een aangepast fluorescerend afbeeldingssysteem de groei van Toxoplasma gondii in realtime. Ze vonden een eiwit, PCNA1, waarmee ze de celcyclus in kaart brachten en zoeken nu naar zwakke plekken voor medicijnen.
Nieuw synthetisch gel ondersteunt borstkliercellen
Tijdens de pandemie maakten onderzoekers van UC Santa Barbara een op algen gebaseerd synthetisch gel om borstklier-epitheelcellen te bestuderen. Het materiaal ondersteunt normale weefselontwikkeling en kan worden aangepast om celgroei te sturen.
Onderzoekers: AI-bias komt door te simpele modellen
Onderzoekers van de University of Texas at Austin bestudeerden problematische AI-algoritmen. Zij vinden dat bias vaak ontstaat omdat modellen de complexe werkelijkheid niet goed vastleggen. Ze noemen drie belangrijke factoren en geven concrete voorbeelden.
Mensen met gezichtsverlies schatten aankomst van voertuigen
Onderzoekers vergeleken volwassenen met leeftijdsgebonden maculadegeneratie en mensen met normaal zicht bij het schatten van de aankomsttijd van een voertuig in een virtuele omgeving. Beide groepen gebruikten zicht en geluid; er was geen extra voordeel van beide samen.