Wetenschappers hebben een fundamentele beperking vastgesteld in de manier waarop kunstmatige intelligentie wordt ingezet om andere taalmodellen te optimaliseren. Hoewel AI-agenten steeds vaker autonoom taken uitvoeren zoals het schrijven van code en het evalueren van resultaten, blijken ze vast te lopen in een patroon van lokale aanpassingen zonder hun overkoepelende aanpak te kunnen herzien.
In een studie naar het proces van 'post-training' analyseren onderzoekers hoe grote taalmodellen (LLM's) worden gebruikt om de prestaties van andere modellen te verbeteren. De auteurs van het onderzoek, waaronder Joy Jia Yin Lim, maken hierbij een essentieel onderscheid tussen twee verschillende vermogens. Enerzijds is er de capaciteit op executieniveau, waarbij een agent stappen zet binnen een reeds vastgestelde strategie. Anderzijds is er de capaciteit op strategieniveau, wat het vermogen is om het globale oordeel over de gekozen methode aan te passen op basis van nieuwe experimentele data.
Uit de analyse van een uitgebreid corpus aan publieke trainingsverlopen blijkt dat de koers van een AI-agent vrijwel direct aan het begin van het proces wordt bepaald. Volgens de publicatie op arxiv.org wordt de resterende tijd en rekenkracht vervolgens uitsluitend besteed aan kleine optimalisaties binnen die eerste keuze, in plaats van een fundamentele koerswijziging door te voeren.
Om de oorzaak van deze strategische starheid te achterhalen, hebben de onderzoekers drie specifieke interventies getest. Ten eerste werd er gekeken naar ervaringsgestuurde ondersteuning. Hoewel dit leidde tot aanzienlijke verbeteringen in scores op HumanEval (met 40,8 punten) en GSM8K (met 12,6 punten), bleef de overkoepelende strategie ongewijzigd. Ten tweede werd menselijke begeleiding ingezet. Dit hielp wel bij de start van het proces, maar zodra de training autonoom verliep, keerde de agent terug naar het maken van lokale aanpassingen.
Ten slotte werd geëxperimenteerd met extra rekenkracht tijdens het inferentieproces. Dit leverde wel resultaten op bij eenvoudige opdrachten, maar bood geen uitkomst bij complexe vraagstukken. De onderzoekers concluderen in hun analyse op dat het probleem niet voortkomt uit een tekort aan rekenkracht, begeleiding of ervaring, maar uit het ontbreken van een mechanisme om de eigen strategie spontaan te herwaarderen.
Het onderzoek, getiteld "What is Missing from AI Post-Training AI: An Empirical Analysis", werd op 19 augustus 2026 ingediend bij de preprint-server . De studie richt zich op de kruisbestuiving tussen kunstmatige intelligentie, machine learning en computationele linguïstiek.
Deze resultaten werpen een nieuw licht op de ontwikkeling van 'AI-for-AI', waarbij systemen worden gebruikt om hun eigen soort te verbeteren. Hoewel de technische uitvoering efficiënt verloopt, ontbreekt het de huidige generatie agenten aan de cognitieve flexibiliteit die nodig is om een falende strategie tijdig te herkennen en te vervangen. De weg naar volledig autonome en zelfcorrigerende trainingssystemen blijkt daardoor nog bezaaid met hindernissen, zoals verder uiteengezet in de volledige tekst op .