Onderzoekers stellen een nieuw paradigma voor waarbij kunstmatige intelligentie zichzelf verbetert door een centrale kennisbank op te bouwen, in plaats van het aanpassen van de interne code of prompts van de AI-agent.
In de huidige ontwikkeling van zelfverbeterende AI-systemen staat meestal de 'agent' centraal. Dit betekent dat optimalisaties worden doorgevoerd in de prompts, de workflows of zelfs de broncode van de agent zelf om de prestaties te verhogen. Volgens een recent onderzoekspapier dat is gepubliceerd via arxiv.org leidt deze agent-centrische benadering echter tot problemen. Verbeteringen zijn in dat model vaak duur om te onderhouden en moeilijk overdraagbaar, omdat de winst sterk verbonden is met een specifiek ontwerp van de agent of een specifieke taakverdeling.
Kennis-centrische zelfverbetering
Als alternatief presenteren onderzoekers, waaronder Xuefei Julie Wang en collega's, het concept van 'knowledge-centric self-improvement'. In dit model blijven de AI-agents generiek en in feite vervangbaar. Het centrale en persistente onderdeel is niet de agent, maar een zorgvuldig samengestelde kennisbank. De agents maken gebruik van deze database voor toekomstige taken en dragen er tegelijkertijd nieuwe inzichten aan bij.
Het proces werkt via een specifiek protocol. Een agent probeert een taak op te lossen en voegt vervolgens inzichten toe die gebaseerd zijn op bewijslast aan een gedeelde kennisbank. Dit gebeurt via forums op taakniveau en cross-task forums, waarna een proces van kennisdistillatie volgt. Omdat de verbetering is opgeslagen in de kennis en niet in de agent, is het resultaat volgens de auteurs makkelijker te inspecteren, te verplaatsen en over te dragen.
Resultaten en efficiëntie
De onderzoekers hebben gecontroleerde casestudy's uitgevoerd om de effectiviteit van dit protocol te testen. Ze hebben hierbij gekeken naar benchmarks voor abstract redeneren, programmeren en terminal-gebruik. Uit de resultaten blijkt dat dit protocol de oplossingspercentages verhoogt in vergelijking met agent-centrische baselines. Een belangrijk neveneffect is dat de kosten in dollars zijn gedaald, wat wijst op een hogere economische efficiëntie van de kennis-centrische methode.
Een cruciaal aspect van het onderzoek is de overdraagbaarheid van de verkregen kennis. De gedistilleerde informatie bleek namelijk ook bruikbaar voor taken die niet eerder waren meegenomen in de training (held-out tasks). Bovendien kon de kennis worden overgedragen tussen verschillende families van Large Language Models (LLM's). Dit bewijst dat de verbetering niet simpelweg een specifiek gedrag is van één bepaald model of één specifieke run, maar dat er sprake is van een fundamentele kenniswinst.
Implicaties voor de AI-sector
De bevindingen, die zijn ingediend bij de vakgebieden en , suggereren een verschuiving in hoe men naar agentische systemen kijkt. In plaats van te investeren in steeds complexere individuele agents, kan vooruitgang primair worden gedreven door het cureren van persistente kennis.
Door de scheiding tussen de 'uitvoerende kracht' (de agent) en de 'informatiebron' (de kennisbank) wordt het systeem robuuster. Wanneer een nieuw, krachtiger taalmodel beschikbaar komt, kan dit model direct worden gekoppeld aan de bestaande kennisbank zonder dat het hele optimalisatieproces opnieuw moet worden doorlopen.
Het volledige onderzoek en de bijbehorende code zijn beschikbaar gesteld via de om verdere validatie en implementatie binnen de wetenschappelijke gemeenschap mogelijk te maken. De studie is ingediend onder diverse categorieën, waaronder en , wat het brede spectrum van de impact van deze methode onderstreept.