De transitie van statische taalmodellen naar zogenaamde 'agentic AI' heeft de mogelijkheden van kunstmatige intelligentie uitgebreid. Waar eerdere modellen vooral tekst genereerden, kunnen moderne agenten nu zelfstandig plannen opstellen en complexe werkprocessen uitvoeren. Deze autonomie brengt echter aanzienlijke risico's met zich mee, variërend van het lekken van gevoelige data tot kwetsbaarheid voor gerichte manipulaties.
Risico's in multi-agent omgevingen
De veiligheidsuitdagingen worden complexer wanneer meerdere AI-agenten gelijktijdig in een systeem opereren. Volgens een wetenschappelijke publicatie op arxiv.org wordt de beveiliging in dergelijke omgevingen bemoeilijkt door de verspreiding van autoriteiten en de diverse rollen die agenten vervullen. Bovendien kunnen sommige agenten binnen een netwerk ondoorzichtig zijn of zelfs reeds gecompromitteerd zijn, wat een risico vormt voor het gehele systeem.
Huidige verdedigingsmethoden schieten vaak tekort omdat ze gefragmenteerd zijn. Veel systemen richten zich enkel op lokale dreigingen of specifieke interacties, waardoor er kritieke gaten in de totale beveiliging van de applicatie ontstaan.
De architectuur van MAS-Guard
Om deze kwetsbaarheden te dichten, hebben Mohammad Kachuee en zijn team MAS-Guard ontwikkeld. Dit systeem is ontworpen om zowel transparante als ondoorzichtige agenten te beschermen via een dubbele beveiligingslaag. De eerste laag, de Local Agent Guardrail (A-Guard), opereert binnen de instrumenteerbare agenten en maakt gebruik van taakspecifieke experts om gebeurtenissen te filteren en te beoordelen.
De tweede laag bevindt zich op systeemniveau, bestaande uit een Control Plane en zogenaamde 'Agent Charters'. In dit stadium voert het systeem deterministische controles uit op de routes, de bevoegdheden van de agenten en de structuur van de berichten. Daarnaast vindt er een semantische analyse plaats van de rollen en de inhoud van de communicatie. Deze gelaagde aanpak stelt MAS-Guard in staat om acties te categoriseren en te behandelen via vier interventies: toestaan, reflectie, bevestiging of volledige blokkering.
Effectiviteit en resultaten
De prestaties van het raamwerk zijn getoetst aan de hand van zes verschillende benchmarks, waarbij drie diverse taalmodellen van verschillende providers werden ingezet. De resultaten, zoals beschreven in het rapport op , tonen aan dat MAS-Guard de succesrate van aanvallen met 71,5% tot 86,3% kan verlagen ten opzichte van onbeveiligde systemen.
Een belangrijk aspect van het onderzoek is dat de beveiliging de bruikbaarheid van de AI niet in gevaar brengt. De referentiecriteria voor het nut van de systemen bij onschadelijke taken bleven behouden, wat aantoont dat de veiligheidsmaatregelen de normale functionaliteit niet significant hinderen.
Conceptuele achtergrond
De naamgeving van het systeem is gebaseerd op het concept van een 'guard'. In algemene zin wordt een bewaker gedefinieerd als een persoon of groep die iemand of iets beschermt tegen gevaar of aanvallen, zoals vermeld in het cambridge.org. In de digitale context van AI wordt dit fysieke concept vertaald naar softwarematige 'guardrails' die ongewenste output of riskante acties voorkomen.
Het volledige wetenschappelijke document over MAS-Guard is op 20 oktober 2026 ingediend bij en is gecategoriseerd onder de vakgebieden Kunstmatige Intelligentie, Computationele Taalkunde en Cryptografie en Beveiliging.