AI-agenten doen steeds meer zelfstandig werk: ze roepen tools aan en communiceren met systemen buiten hun eigen organisatie. Maar hoe weet je of zo'n externe agent wel is wie hij zegt dat hij is? Precies daar zit een groot beveiligingsgat — en onderzoekers Viet K. Nguyen en Mohammad I. Husain denken het te kunnen dichten. Ze ontwikkelden de Agent Trust Infrastructure (ATI), een architectuur die de identiteit, integriteit en autorisatie van AI-agenten over organisatiegrenzen heen verifieert. Het onderzoek is te lezen op arxiv.org.
🧠 Even simpel uitgelegd
Stel dat een AI-assistent van bedrijf A een taak uitvoert voor bedrijf B. Hoe weet bedrijf B dat die agent echt van bedrijf A komt, en niet is gekaapt door een hacker? ATI lost dat op met digitale paspoorten (certificaten) en een 'vertrouwen niemand standaard'-principe: elke agent moet bij elk verzoek bewijzen wie hij is, welke software hij draait en wat hij mag doen. Bedrijven controleren elkaar daarbij onderling, zonder dat er één centrale partij nodig is die alles beheert.
Vertrouwen zonder centrale baas
ATI is raamwerk-onafhankelijk en rust op drie pijlers: Public Key Infrastructure (PKI), Zero Trust Architecture (ZTA) en remote attestation. Het bijzondere: vertrouwen wordt federatief geregeld via peer-organisatorische certificeringsautoriteiten, de zogenaamde AgentCAs. Er is dus geen centrale, gedeelde wortelautoriteit nodig — wat samenwerking tussen onafhankelijke organisaties een stuk flexibeler maakt.
Voordat een verzoek wordt uitgevoerd, controleert ATI strikt alles: de agent-certificaten én de configuraties van het gebruikte model, de tools en de system-prompts. Daarna wordt de autorisatie afgedwongen via drie specifieke beleidscontroles. ATI fungeert daarbij als een externe beveiligingslaag, waardoor het in bestaande agent-frameworks past zonder dat de onderliggende modellen aangepast hoeven te worden.
Getest: van 43% naar 84% aanvalsbeperking
De onderzoekers zetten ATI in een gesimuleerde omgeving met acht organisaties. Elke organisatie draaide een team van vijf agenten, verspreid over zes verschillende agent-frameworks. De beveiligingsexperimenten richtten zich op twee organisaties en bestonden uit 14 aanvalsscenario's en zes legitieme taken, over vijf verschillende agent-modellen.
De resultaten zijn opvallend. Met alle handhavingsmechanismen actief steeg de aanvalsbeperking (attack containment) van 43% naar 84%. Voor de elf scenario's die consistent over alle configuraties werden geëvalueerd, ging het zelfs van 40% naar 80%. En dat alles tegen een minimale prijs: de handhaving kost slechts ongeveer 174 microseconden per verzoek.
Vrijgave
ATI is vrijgegeven.
Daarmee biedt ATI een schaalbare oplossing voor organisaties die AI-agenten willen inzetten in een ecosysteem waar vertrouwen niet vooraf vaststaat, maar dynamisch en cryptografisch moet worden bewezen. De volledige implementatiedetails en de evaluatie door een panel van 'judge models' staan in het wetenschappelijke document.