Hoe maak je robotsoftware veiliger zonder dat een mens er continu naar kijkt? Onderzoekers kwamen met een opvallend antwoord: laat AI-agenten elkaar aanvallen. In een nieuw wetenschappelijk document, gepubliceerd op arxiv.org, beschrijven ze een framework voor "program-level adversarial co-adaptive self-play".
De kern is simpel: de ene agent probeert de beveiliging van robotsoftware te doorbreken, de andere agent dicht die gaten. Beide schrijven en herzien uitvoerbare programma's. Telkens als de tegenstander meevolueert, blijken eerdere succesvolle aanvallen of verdedigingen minder effectief. Zo dwingen de agenten elkaar voortdurend tot betere oplossingen.
🧠 Even simpel uitgelegd
Stel je twee computerspelers voor die tegen elkaar chess spelen, maar dan met code. Speler A probeert de beveiliging van een robot te kraken. Speler B repareert die zwakke plekken. Zodra B een gat dicht, bedenkt A een nieuwe aanval. Door steeds tegen elkaar te 'spelen', worden beiden beter — en wordt de robotsoftware stap voor stap veiliger. Het bijzondere: de AI-modellen zelf worden niet bijgetraind, ze leren alleen door hun code aan te passen.
Aanval en verdediging in één systeem
Het framework laat coderingsagenten zowel aanvallen als verdedigingsmechanismen bouwen. Dat doen ze op basis van geteste code van de tegenstander en feedback uit uitgevoerde missies. Belangrijk detail: het hele proces gebeurt zonder model-fine-tuning. De agenten passen zich uitsluitend aan elkaar aan in een continue co-adaptatie.
Om dit praktisch te maken, gebruikt het systeem omgeving-specifieke interfaces. Die ondersteunen externe programma's voor autonome voertuigen én verdedigingen op SDK-niveau voor mensachtige robots (humanoids). Ter context: een programma is in de informatica een reeks instructies die een computer krijgt om een specifieke operatie uit te voeren, zoals omschreven in het cambridge.org.
Wat de casestudies lieten zien
De auteurs, onder wie Leo Benaharon en Chi Zhang, testten het framework in twee casestudies over acht generaties heen. De verdedigende agent kwam met concrete softwarematige reacties:
- Autonoom rijden: de verdediger introduceerde een methode voor herstel via directe actuatie.
- Humanoid locomotie: bij de mensachtige robot paste de verdediger de validatie van binnenkomende toestanden (incoming-state validation) aan.
Beide aanpassingen zorgden voor lokaal herstel van de taak. Maar een duurzame robuustheid wisten de onderzoekers niet vast te stellen. Juist die beperking is waardevol: via de uitvoerbare code en het bewijs op taakniveau wordt zichtbaar waar autonome software-aanpassingen tekortschieten.
Transparantie als kracht
Het onderzoek, ingediend op 26 oktober 2026, valt onder de discipline Robotica (cs.RO). De auteurs benadrukken dat het framework de beperkingen van autonome software-aanpassingen observeerbaar maakt. Omdat de interactie tussen aanval en verdediging volledig in code wordt vastgelegd, kunnen onderzoekers precies analyseren waar de beveiliging faalt en hoe de agenten proberen dat te corrigeren.
Het document is open-access beschikbaar onder identificatie 2610.36143v1. De volledige analyse beslaat acht pagina's en bevat vijf figuren die de co-adaptieve processen illustreren.