Autonome AI-agenten razendsnel integreren in kritieke processen? Dat gebeurt nu. Maar de risicomodellen van vandaag kunnen die ontwikkeling nauwelijks bijbenen.
Onderzoekers Hassan Karim, Sai Sitharaman, Deepti Gupta en Danda B. Rawat slaan alarm in een recent wetenschappelijk document op arxiv.org. Huidige modellen falen volgens hen op twee fronten. Sommige beschrijven wél hoe een fout ontstaat, maar zetten dat niet om in een concreet risicocijfer. Andere geven wél een risicoschatting, maar behandelen de weg ernaartoe als een black box.
Twee frameworks, één aanpak
De oplossing? Een gecombineerde methode. Centraal staat CPSAINT, een raamwerk dat de integriteit van een AI-systeem opdeelt in zeven lagen: fysieke staat, sensoren, data, rekenkracht, actuatoren, omgeving en tijd. Hiermee sporen onderzoekers zwakke schakels in de keten nauwkeurig op.
Die analyse koppelen ze aan FRIESA-K, een methode om het resterende risico te kwantificeren. Elk faalpad krijgt een specifieke risico-instantie. Cruciaal is de 'weerstandsterm K', gebaseerd op een gecontroleerd absorberend Markov-model. Die term leidt de effectiviteit van controles af uit de dynamiek van het systeem. Geen informele score meer, maar harde wiskunde.
🧠 Even simpel uitgelegd
Stel je een autonome robot voor die pakketjes bezorgt. Die robot heeft sensoren, software en wielen — allemaal onderdelen die kunnen falen. CPSAINT is een checklist die elk onderdeel apart controleert op zwaktes. FRIESA-K berekent vervolgens hoe groot de kans is dat zo'n zwakte echt leidt tot een ongeluk. De 'weerstandsterm K' is een wiskundige manier om te meten hoe goed de veiligheidsmaatregelen werken. In plaats van een cijfer van 1 tot 10 te geven, kijkt het systeem naar hoe de robot zich in de praktijk gedraagt en herstelt.
Werkt het overal?
Ja, stellen de onderzoekers. Ze testten de methode in twee totaal verschillende scenario's: een magazijnrobot die in real-time moet opereren en een AI-agent voor financiële diensten met governance-instrumenten.
In beide gevallen bleven de structuur, de variabelen en de dynamische weerstand identiek. Het framework biedt dus een compacte kern die across domeinen werkt. Dat noemen de auteurs 'componibel vertrouwen' — vertrouwen dat je stuk voor stuk kunt opbouwen.
Veerkracht en toezicht
Het doel? Veerkrachtige AI. Veerkracht betekent het vermogen om snel te herstellen van schade of terug te veren na een tegenslag, zoals toegelicht in de definities van vocabulary.com. Wie faalpaden kwantificeerbaar maakt, ontwerpt systemen die verstoringen beter opvangen.
Voor het toezicht hanteren de onderzoekers een aparte aanpak. 'Governance observability' — inzicht in het bestuur van het systeem — wordt behandeld via een additieve strafmaat. Governance verdwijnt dus niet in de weerstandsfunctie, maar vormt een aanvullende laag.
Het document is op 28 april 2026 ingediend en biedt een 'mechanisme-naar-magnitude pijplijn'. Die is essentieel voor zowel agentic AI als belichaamde AI, waarbij software direct met de fysieke wereld interacteert.