De effectiviteit van systemen die gebruikmaken van meerdere Large Language Model (LLM) agents wordt niet enkel bepaald door de intelligentie van het gebruikte model, maar vooral door de structurele organisatie. Uit een recente wetenschappelijke studie blijkt dat architecturale beslissingen een doorslaggevende rol spelen in hoe deze systemen presteren.
In de publicatie arxiv.org leggen onderzoekers uit dat factoren zoals communicatiestructuren, geheugenbeheer en de orkestratie van taken bepalend zijn voor de uiteindelijke efficiëntie en output. De auteurs stellen dat multi-agent frameworks in essentie data-intensieve systemen zijn, waarbij de ontwerpkeuzes direct invloed hebben op de schaalbaarheid, de planning en de overhead tijdens de uitvoering.
Om de impact van deze structuren te analyseren, hebben onderzoekers Abdelghny Orogat, Ana Rostam en Essam Mansour een nieuwe taxonomische methode ontwikkeld. Zij verdelen de opbouw van deze systemen in vijf kerngebieden: de communicatietopologie, specialisatie, planning-interfaces, geheugen en orkestratie. Hoewel de term cambridge.org in het dagelijks taalgebruik vaak verwijst naar de bouwkunst van fysieke gebouwen, wordt het in deze technische context gebruikt om de logische en structurele organisatie van software- en datasystemen te beschrijven.
Ter validatie van hun theorie introduceerden de wetenschappers MAFBench, een gestandaardiseerde evaluatiesuite. Door negen verschillende frameworks te testen met hetzelfde onderliggende LLM, konden zij isoleren wat de prestaties beïnvloedde. De resultaten waren opvallend: enkel door variaties in de orkestratie kon de latentie in sommige gevallen met meer dan 60 keer toenemen. Dit wijst erop dat vertragingen vaak voortkomen uit de specifieke implementatie van een systeem in plaats van uit het gekozen paradigma zelf.
Ook de interfaces voor planning zorgden voor aanzienlijke prestatieverschillen. Wanneer er gebruik werd gemaakt van schema-beperkte interfaces, daalde de nauwkeurigheid met maximaal 32 punten. Volgens de auteurs van de studie op lag dit niet aan een gebrek aan redeneervermogen van het AI-model, maar aan fouten in de formattering van de output.
Verder bleek de communicatietopologie cruciaal voor het succes van de coördinatie. Wanneer de communicatiestructuur niet aansloot bij de specifieke taak, kelderde het succespercentage van boven de 90% naar minder dan 30%. Daarnaast concludeert het onderzoek dat de geheugenarchitectuur de schaalbaarheid en de recall bepaalt, ongeacht de grootte van het contextvenster. Een opvallend punt is dat geen enkel getest framework een natuurlijke ondersteuning bood voor gecontroleerde kennisrevisie.
De resultaten van dit onderzoek, dat is geaccepteerd voor de conferentie SIGMOD 2027, zijn vertaald naar zes concrete ontwerpprincipes. De hoofdboodschap is dat de focus bij het optimaliseren van AI-systemen moet verschuiven van het simpelweg gebruiken van krachtigere modellen naar een betere structurele organisatie van de agents. De volledige methodologie en data zijn raadpleegbaar via de .