Onder leiding van Xiaoyan Bai en Chenhao Tan van de University of Chicago, met medewerking van MIT, Harvard University, University of Waterloo en Google DeepMind, onderzochten onderzoekers waarom taalmodellen moeite hebben met viercijferige vermenigvuldiging. Ze richtten zich op langeafstandsafhankelijkheden: het vasthouden van deelproducten en lopende totalen tijdens meerstapsberekeningen.
De studie vergeleek standaard fine-tuning met Implicit Chain of Thought (ICoT). Modellen met twee tot 12 lagen bereikten minder dan <1% nauwkeurigheid, terwijl het ICoT-model 100% behaalde. Analyse van de interne toestanden liet zien dat het ICoT-model tussentijdse waarden codeert en lopende totalen kon worden gedecodeerd uit verborgen toestanden.
Met een eenvoudig trainingsdoel dat het model leert lopende totalen bij te houden, steeg de nauwkeurigheid van een twee-laags model naar 99%. De onderzoekers concluderen dat gerichte architectuurkeuzes en trainingsdoelen meerstapsredenering mogelijk maken en dat dit belangrijk is voor betrouwbaar gebruik van AI.
Moeilijke woorden
- langeafstandsafhankelijkheid — verbinding tussen ver verwijderde delen in tekstlangeafstandsafhankelijkheden
- deelproduct — een tussenresultaat bij een vermenigvuldigingsstapdeelproducten
- meerstapsberekening — berekening met meerdere opeenvolgende stappenmeerstapsberekeningen
- lopend totaal — huidige som tijdens een berekeninglopende totalen
- nauwkeurigheid — hoe vaak het model het juiste antwoord geeft
- trainingsdoel — specifiek resultaat waar het model voor traint
- coderen — informatie intern opslaan in het modelcodeert
- decoderen — opnieuw aflezen van informatie uit verborgen toestandgedecodeerd
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Vind je het belangrijk dat modellen tussentijdse waarden bewaren tijdens berekeningen? Waarom?
- Wat lijkt jou moeilijker: gerichte architectuurkeuzes maken of een goed trainingsdoel bedenken? Leg kort uit.
- Hoe zou betrouwbare meerstapsredenering invloed kunnen hebben op dagelijks gebruik van AI?
Gerelateerde artikelen
EU-AI-regels verliezen controle buiten de EU
7amleh concludeert dat Europese AI-regels niet volgen wat er met technologie gebeurt buiten de EU. EU-geld en producten belanden bij regeringen en strijdkrachten in West-Azië en Noord-Afrika, met weinig verantwoording voor mensenrechten.
Afrika bouwt regionaal beheer van gezondheidsonderzoek
Afrikaanse onderzoekers willen meer regionaal bestuur van gezondheidsonderzoek omdat hulp daalt en gezondheidsproblemen aanhouden. Ze tonen voorbeelden van lokale vaccinproductie en vragen financiering en beleid voor gezondheidssouvereiniteit.
Afrika op een kantelpunt: malaria en gezondheidssystemen
Op Wereldmalariadag (25 april) staat Afrika op een kantelpunt: eerdere winsten tegen malaria en kindersterfte stagneren of keren om. Fragmentatie in zorg en onderzoek belemmert snelle toepassing van oplossingen; lokaal onderzoek en integratie zijn dringend nodig.