Onderzoekers hebben een nieuw systeem genaamd Synapse-Control ontwikkeld om de betrouwbaarheid van AI-agenten bij complexe taken te verhogen. Door gebruik te maken van een lichtgewicht controlemechanisme kan het systeem eerdere uitvoeringservaringen effectiever hergebruiken, terwijl de rekenkosten en de tijd voor inferentie aanzienlijk worden verminderd.
Optimalisatie van ervaringen in AI-agenten
AI-agenten die gebaseerd zijn op grote taalmodellen (LLM's) proberen vaak te leren van eerdere fouten om hun prestaties bij tool-gebaseerde taken te verbeteren. Volgens een publicatie op arxiv.org maken bestaande systemen, zoals Sentry, gebruik van grote modellen om eerst een diagnose van een fout te genereren voordat er advies wordt opgehaald. Dit proces brengt echter hoge inferentiekosten met zich mee.
Synapse-Control pakt dit aan door een lichtgewicht 'control plane' te introduceren. In plaats van een volledige diagnose te genereren, gebruikt dit systeem een classifier van 1,7 miljard parameters die is getraind op paren van toestanden en suggesties. Dit model scoort potentiële kandidaten voor advies, waardoor het proces versnelt en goedkoper wordt.
Technische werking en resultaten
Het systeem maakt gebruik van verschillende specifieke mechanismen om de efficiëntie te waarborgen:
- Micro-contracts: Deze coderen herbruikbare interfacecontroles, zoals geldige opties of vereiste argumenten, zonder dat er volledige programma's voor taken hoeven te worden voorgeschreven.
- Prompt Value Table: Deze tabel houdt eerdere feedback en begeleiding bij. Hierdoor kunnen herhaalde suggesties worden beperkt via token-budgetcontroles en zogenaamde 'cooldown'-periodes.
De effectiviteit van Synapse-Control is getest in omgevingen zoals WebShop en AppWorld. Uit de resultaten blijkt dat het systeem 270 successen behaalde over 1.308 pogingen per methode, wat een stijging van 29,8% is ten opzichte van het basismodel. Daarnaast verving het systeem 4.987 generatieve diagnose-aanroepen. In vergelijking met Sentry werd de auxiliary control-tijd met respectievelijk 50,2% en 51,0% verminderd, zoals beschreven in de .
Context en terminologie
De naamgeving van het systeem refereert aan het concept van een synaps. In de biologie is een synaps een verbinding met een minuscule opening die twee neuronen in de hersenen scheidt, wat essentieel is voor de geleiding van zenuwprikkels. Volgens sciencefacts.net bevat een menselijk brein naar schatting 1.000 tot 5.000 biljoen van deze verbindingen, die variëren in vorm zoals axodendritisch, axosomatisch en axoaxonisch.
Het is belangrijk om Synapse-Control te onderscheiden van commerciële software met een gelijkaardige naam. Zo biedt razer.com met hun Synapse-software geavanceerde controle over gaming-apparatuur en verlichting, wat een geheel andere toepassing is dan de runtime-controle voor AI-agenten. Daarnaast zijn er organisaties zoals synapsehealth.com, hoewel toegang tot hun specifieke diensten soms beperkt kan zijn door beveiligingsinstellingen zoals Cloudflare.
Conclusie
Synapse-Control demonstreert dat het mogelijk is om de betrouwbaarheid van AI-agenten te verhogen zonder de rekenkracht exponentieel te vergroten. Door generatieve diagnoses te vervangen door een gespecialiseerde, kleinere classifier en het implementeren van micro-contracts, kunnen agenten sneller en accurater reageren op basis van eerdere ervaringen.