Onderzoekers hebben een nieuwe 'token-budgettheorie' ontwikkeld die aantoont dat de hoeveelheid beschikbare ruimte voor een AI-model om na te denken belangrijker is dan de hoeveelheid informatie die het model leest.
In een recent onderzoek, gepubliceerd op 16 oktober 2026, werpen wetenschappers een nieuw licht op de manier waarop geavanceerde redeneersystemen functioneren. De studie, getiteld "Think More or Read More? A Token-Budget Theory of Reasoning with Shared Context", analyseert de trade-off die ontstaat wanneer AI-modellen gebruikmaken van gedeelde contextvensters om hun antwoorden te verbeteren.
De strijd om het token-budget
Moderne AI-systemen proberen hun nauwkeurigheid vaak te verhogen door extra context toe te voegen. Dit gebeurt bijvoorbeeld via 'multi-agent debate', waarbij verschillende AI-agenten elkaars reacties lezen, of via 'self-refinement', waarbij een model zijn eigen eerdere concepten herzien. Volgens de publicatie op arxiv.org verbruikt deze communicatie echter kostbare ruimte binnen het contextvenster.
De kern van het probleem is dat het lezen van tokens en het genereren van tokens putten uit hetzelfde vaste budget. Elke token die wordt besteed aan het lezen van informatie van een andere agent of een eerdere draft, is een token die niet meer kan worden gebruikt voor het eigenlijke redeneerproces. De onderzoekers, waaronder Manh Nguyen, Sunil Gupta en Hung Le, hebben hiervoor een formele token-budgettheorie ontwikkeld.
Voorspellen van optimale groepsgrootte
Een van de belangrijkste resultaten van de theorie is de mogelijkheid om de optimale hoeveelheid agenten in een debat te voorspellen. Door gebruik te maken van een Condorcet-jurymodel, dat rekening houdt met gecorreleerde fouten, kunnen de onderzoekers een exacte voorspelling doen over hoeveel agenten nodig zijn voor het beste resultaat.
Opvallend is dat deze optimale groepsgrootte kan worden bepaald op basis van metingen van een enkele agent. Dit betekent dat men de ideale configuratie kan vaststellen zonder dat er daadwerkelijk een tijdrovend debat tussen meerdere modellen hoeft te worden uitgevoerd. De theorie is bovendien toepasbaar op een heterogene set van verschillende modellen.
Empirische resultaten en beperkingen
De theorie is empirisch geverifieerd over vijf open modellen en vier verschillende redeneertaken. De resultaten tonen aan dat communicatie tussen modellen alleen zinvol is wanneer de winst in de maximale nauwkeurigheid groter is dan de verloren ruimte voor redenering. Naarmate het contextvenster kleiner wordt, wordt deze voorwaarde steeds strenger.
Uit de data blijkt dat 'self-consistency' in 93% van de geteste scenario's (bij 980 verschillende combinaties van venstergrootte en groepsgrootte) beter presteert dan of gelijk is aan ingezette debatten. Het verschil is het grootst bij zeer krappe contextvensters en verdwijnt bijna volledig wanneer er ruim voldoende budget is. De conclusie van de auteurs op is helder: de ruimte die een model overhoudt om te 'denken' is doorslaggevender dan de inhoud van wat het leest.
Contextuele afbakening
Hoewel de term "Think" in de context van dit wetenschappelijke onderzoek verwijst naar computationele redeneerprocessen van AI, is het belangrijk dit niet te verwarren met commerciële merken. Zo is er bijvoorbeeld een geheel andere sector die de naam gebruikt voor consumentenproducten, zoals de schoenenlijn van thinkshoes.com, die zich richt op handgemaakte lederen schoenen en comfort. Er is geen enkel verband tussen de AI-theorie over token-budgetten en de commerciële activiteiten van deze schoenenwinkel.
De wetenschappelijke gemeenschap kan de volledige details van de token-budgettheorie en de bijbehorende wiskundige modellen raadplegen via de officiële .