Robots worden steeds zelfstandiger, maar wie controleert of hun plannen wel veilig en ethisch zijn? Onderzoekers ontwikkelden een AI-systeem dat robotplannen checkt vóórdat ze worden uitgevoerd. De laag, 'Agentic Harnesses' gedoopt, blokkeert plannen die onveilig of ethisch onverantwoord zijn.
Het onderzoek verscheen op 10 augustus 2026 op preprintserver arxiv.org en is van Rohan Bhagra, Mahantesh Halapannavar en Uddhav Bhattarai. Volgens de samenvatting richten zij zich op een blinde vlek in robotica: de controle van planningsmodellen. 'Eerdere systemen richtten zich vooral op taakuitvoering, maar besteedden weinig tot geen aandacht aan het verifiëren of voorgestelde acties haalbaar en veilig zijn,' schrijven de auteurs.
Waarom dit nodig is
Robotplanningsmodellen kunnen vooringenomen zijn, acties voorstellen die tegen wetenschappelijke ethiek ingaan, of onveilig zijn door het missen van historische veiligheidsgegevens. Ook zijn ze kwetsbaar voor vijandige aanvallen. Het nieuwe systeem, een zogenaamd 'LLM-as-a-Judge', gebruikt meerdere taalmodellen. Die combineren chain-of-thought-redeneringen en synthetiseren de resultaten van 'expertbeoordelaars'. Dit weerspiegelt een combinatie van het 'mixture of experts'-principe en zelfconsistentie.
Hoe het werkt
De verificatielaag fungeert als middleware die robotplannen blokkeert voordat ze het laagwaardige besturingssysteem (MCP) bereiken. Plannen worden op drie manieren behandeld: goedgekeurd, teruggestuurd voor herformulering, of doorgestuurd naar menselijke beoordeling. Bijna 85% van de plannen wordt geaccepteerd, geëscaleerd of afgewezen. Het systeem onderschepte 97% van de vijandige aanvallen. Fouten deden zich vooral voor bij de escalatiegrens, aldus het onderzoek.
🧠 Even simpel uitgelegd
Stel je voor dat een robot zelf een plan maakt om een taak uit te voeren, zoals boodschappen doen. Maar voordat hij dat plan uitvoert, komt er een 'veiligheidscontroleur' tussen. Die controleert of het plan geen gevaarlijke of verkeerde stappen bevat. Als het plan onveilig is, wordt het tegengehouden. Zo zorgt een AI-systeem ervoor dat robots niet zomaar iets doen wat schadelijk kan zijn.
Agentische AI in opkomst
Dit past in een bredere ontwikkeling van 'agentische AI': systemen die niet alleen informatie geven, maar ook zelf acties ondernemen. Volgens agentic.ai is agentische AI niet hetzelfde als een chatbot. 'Agentische AI plant stappen, roept tools zoals API's, bestanden, browsers en code aan, observeert de uitkomsten en past zich aan tot een taak voltooid is.' Hoe agentisch een tool is, wordt beoordeeld op een schaal van 0 tot 36 over negen dimensies, van 'reactieve tool' tot 'strategische agent'. Het cruciale verschil: of het systeem in een lus actie onderneemt, niet hoe slim het klinkt.
Ook geeksforgeeks.org beschrijft agentische AI als een systeem dat autonoom beslissingen neemt, acties plant en taken uitvoert met minimale menselijke controle. Kenmerken zijn doelgerichte acties in plaats van alleen informatie, en het gebruik van softwaretools, API's en databases in dynamische omgevingen. Een voorbeeld: een reisagent die niet alleen toont, maar zelf platforms scant, prijzen vergelijkt en automatisch boekt. Het Model Context Protocol (MCP) dat in het Agentic Harnesses-systeem wordt gebruikt, wordt populairder, al blijft deze specifieke publicatie volgens de auteurs nog niet definitief ingediend voor een conferentie.