Autonome AI-agenten rukken op in kritieke sectoren als de gezondheidszorg en het biomedisch onderzoek. Maar hoe veilig zijn die systemen eigenlijk? Onderzoekers Shu Jiang en Graham A. Colditz vinden dat we dat op de verkeerde manier meten. In een publicatie van 9 november 2026 stellen zij dat huidige evaluatiemethoden te veel naar directe prestaties bij losse taken kijken. Wat er op de lange termijn gebeurt met autonoom gedrag, blijft zo buiten beeld. Dat schrijven ze op arxiv.org.
Epidemiologie als blauwdruk voor software
Hun oplossing komt uit een verrassende hoek: de epidemiologie. Die wetenschap volgt normaal gesproken grote groepen mensen om te begrijpen hoe ziekten zich verspreiden en welke risicofactoren een rol spelen. Jiang en Colditz zetten dezelfde aanpak in voor AI. In hun raamwerk vormt elke AI-agent een individu binnen een cohort.
De vertaling werkt zo. Het basismodel van een agent is de genetische opmaak. De tijdlijn loopt niet in jaren, maar in de hoeveelheid werk die een agent verricht. Elke actie en interactie tijdens dat werk geldt als een 'blootstelling'. Door agenten zo langdurig te volgen, komen patronen bovendrijven die leiden tot fouten of onveilige situaties. Zoals beschreven in het onderzoek op arxiv.org, maakt dat mogelijk om vast te stellen welke gedragingen tot incidenten leiden — en of causale analyses laten zien dat die voorkomen hadden kunnen worden.
🧠 Even simpel uitgelegd
Epidemiologen ontdekken bijvoorbeeld dat rokers vaker longkanker krijgen door duizenden mensen jarenlang te volgen. Deze onderzoekers doen hetzelfde, maar dan met AI-agenten: ze kijken niet of een AI één taak goed uitvoert, maar volgen het systeem langdurig. Elke actie is een 'blootstelling' (zoals roken), en een incident is de 'ziekte'. Zo kun je terugvinden wélk gedrag tot problemen leidt.
Veiligheid en preventieve zorg
De onderzoekers toetsten hun model aan twee observationele cohorten. De eerste studie keek naar veiligheidsrisico's, met specifieke aandacht voor gedrag zoals 'probing' en nieuwsgierigheid. De tweede studie analyseerde betrouwbaarheid, vooral de wisselwerking tussen analytische precisie en datacontrole.
Het einddoel is een standaard voor het monitoren van AI-agenten gedurende hun volledige operationele levensduur. AI-systemen zouden, net als mensen, een soort 'preventieve zorg' nodig hebben. Zo voorkom je dat prestaties achteruitgaan of dat onveilig gedrag ontstaat. Deze visie staat centraal in de publicatie via arxiv.org.
Toepassing in moderne ontwikkelomgevingen
Waarom is dit nu nodig? Kijk naar de agentische AI die vandaag al in softwareontwikkeling zit. Een goed voorbeeld zijn de functionaliteiten van visualstudio.com. Die agenten maken autonoom plannen, schrijven code en verifiëren die vervolgens zelfstandig.
Ze beheren in aparte sessies onafhankelijk upgrades, voeren refactorings uit en passen bugfixes toe. Omdat ze zelfstandig commando's uitvoeren en bestanden wijzigen, ontstaat een complexe, iteratieve interactie met de codebase. Menselijke controle blijft wel bestaan: kritieke acties moeten worden goedgekeurd. Maar precies deze dynamiek — autonoom handelen over langere tijd — is wat Jiang en Colditz met hun epidemiologische model willen doorgronden.
Hun boodschap is helder: weg met statische benchmarks, en kies voor dynamische monitoring. Alleen zo, betogen de wetenschappers, is de betrouwbaarheid van autonome systemen op lange termijn te waarborgen.