Onder leiding van Xiaoyan Bai en Chenhao Tan van de University of Chicago, met medewerking van MIT, Harvard University, University of Waterloo en Google DeepMind, onderzochten onderzoekers waarom taalmodellen moeite hebben met viercijferige vermenigvuldiging. Ze richtten zich op langeafstandsafhankelijkheden: het vasthouden van deelproducten en lopende totalen tijdens meerstapsberekeningen.
De studie vergeleek standaard fine-tuning met Implicit Chain of Thought (ICoT). Modellen met twee tot 12 lagen bereikten minder dan <1% nauwkeurigheid, terwijl het ICoT-model 100% behaalde. Analyse van de interne toestanden liet zien dat het ICoT-model tussentijdse waarden codeert en lopende totalen kon worden gedecodeerd uit verborgen toestanden.
Met een eenvoudig trainingsdoel dat het model leert lopende totalen bij te houden, steeg de nauwkeurigheid van een twee-laags model naar 99%. De onderzoekers concluderen dat gerichte architectuurkeuzes en trainingsdoelen meerstapsredenering mogelijk maken en dat dit belangrijk is voor betrouwbaar gebruik van AI.
Moeilijke woorden
- langeafstandsafhankelijkheid — verbinding tussen ver verwijderde delen in tekstlangeafstandsafhankelijkheden
- deelproduct — een tussenresultaat bij een vermenigvuldigingsstapdeelproducten
- meerstapsberekening — berekening met meerdere opeenvolgende stappenmeerstapsberekeningen
- lopend totaal — huidige som tijdens een berekeninglopende totalen
- nauwkeurigheid — hoe vaak het model het juiste antwoord geeft
- trainingsdoel — specifiek resultaat waar het model voor traint
- coderen — informatie intern opslaan in het modelcodeert
- decoderen — opnieuw aflezen van informatie uit verborgen toestandgedecodeerd
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Vind je het belangrijk dat modellen tussentijdse waarden bewaren tijdens berekeningen? Waarom?
- Wat lijkt jou moeilijker: gerichte architectuurkeuzes maken of een goed trainingsdoel bedenken? Leg kort uit.
- Hoe zou betrouwbare meerstapsredenering invloed kunnen hebben op dagelijks gebruik van AI?
Gerelateerde artikelen
Hersenactiviteit van muizen verandert tijdens de dag
Onderzoekers ontwikkelden nieuwe experimentele en computationele methoden om te zien welke delen van de muizenhersenen actief zijn tijdens de dag. Ze vonden dat activiteit zich verplaatst van binnenste hersenlagen naar de cortex en willen hiermee vermoeidheid beter begrijpen.
AI-test voorspelt terugkeer van borstkanker
Onderzoekers rapporteren in Nature Communications een AI-test die het risico op terugkeer van borstkanker voorspelt. De test combineert klinische gegevens en pathologieruitslagen en kan sneller en goedkoper zijn dan huidige genomische tests.
Futurity: de tien meestgelezen onderzoeksverhalen van 2025
Futurity publiceerde eind 2025 een lijst met de tien meestgelezen onderzoeksberichten. De selectie beslaat onderwerpen als gezondheid, energie, archeologie, neurowetenschap, voeding en milieugezondheid. Lezers zijn uitgenodigd in 2026 terug te komen.