Autonome agenten voor cyberdefensie (ACD) duiken steeds vaker op in Security Operations Centers (SOC's). Ze detecteren en dammen digitale dreigingen automatisch in. Maar die snelheid heeft een keerzijde. Volgens een wetenschappelijke publicatie op arxiv.org kunnen foutieve playbooks essentiële diensten verstoren — met grote impact. Wie er dan aansprakelijk is, is bovendien onduidelijk: de leverancier, de infrastructuurprovider, de SOC-supervisor of de implementeerder?
Geleerd van zelfrijdende auto's
Onderzoekers Jina Kang, Jeong-Han Yun en Hyesong Choi ontwikkelden daarom het SecODD-raamwerk. Het bouwt voort op het concept 'Operational Design Domain' (ODD), een methode die oorspronkelijk zelfrijdende voertuigen reguleerde. In de cyberbeveiliging trekt het een strikte grens: alleen binnen die grens mogen geautomatiseerde defensieve acties plaatsvinden.
SecODD fungeert als governance-structuur voor de executiefase. Het definieert wanneer menselijke interventie onmisbaar is en introduceert een 'Mitigation Safe Harbor': een set auditeerbare voorwaarden voor zorgvuldigheid. ACD-systemen mogen alleen actief zijn als hun acties herstelbaar, onderbreekbaar en begrensd zijn.
Vier technische waarborgen
Het SecODD-model toetst vier technische vereisten:
- Tamper-evident logging — logbestanden die niet onopgemerkt gewijzigd kunnen worden.
- Human-in-the-loop orchestration — mensen moeten het proces altijd kunnen sturen.
- Rollback playbooks — foutieve acties moeten ongedaan te maken zijn.
- Safe-state transition controls — bij een defect schakelt het systeem over naar een veilige status.
De effectiviteit wordt getoetst via een scenario-specifieke auditmatrix. In de publicatie wordt aangetoond hoe specifieke faalmodi van ACD-systemen omgezet worden in concrete 'slaag/faal'-uitkomsten. Zo kan een organisatie objectief vaststellen of een autonoom systeem aan de veiligheidsnormen voldoet — vóór het beheer over kritieke infrastructuur krijgt.
De mens blijft waakzaam
Strikte governance in digitale ruimtes is ook in de dagelijkse praktijk nodig. Terwijl academische modellen zich richten op complexe automatisering, blijven eenvoudige dreigingen zoals phishing een groot risico. Zo waarschuwde het miro.com voor phishingpogingen waarbij kwaadwillenden teamleden imiteerden om gevoelige informatie te verkrijgen.
Technologische integraties en AI versnellen het werk, maar menselijke controle blijft cruciaal. De waarschuwing van Miro om geen betalingsgegevens of wachtwoorden te delen in community-forums onderstreept dat. Het principe sluit direct aan bij de 'human-in-the-loop'-benadering van SecODD. Het uiteindelijke doel: autonome cyberdefensie transformeren van een ondoorzichtige 'black box' naar een transparant proces dat volledig op basis van bewijsmateriaal te reconstrueren is.