AI die in een simulatie perfect presteert, kan in de echte wereld catastrofale fouten maken. Onderzoekers Rohan Tangri en Jan-Peter Calliess hebben daarvoor een oplossing bedacht: Dejavu, een methode die AI-beleid veilig certificeert voordat het van de virtuele naar de fysieke wereld gaat — en die garantie blijft staan, hoe vaak het systeem ook wordt bijgesteld.
Het probleem: fouten zonder vangnet
Het overbrengen van kunstmatige intelligentie van een simulatie naar een echte omgeving — 'sim-to-real transfer' — is riskant. In een gesimuleerde wereld blijven fouten zonder gevolgen. Maar in de fysieke wereld kan één onveilige actie leiden tot schade of systeemfalen.
Tangri en Calliess presenteren hun oplossing in een wetenschappelijk artikel, ingediend op 6 november 2026, dat te lezen is op arxiv.org.
Hoe Dejavu werkt
De methode richt zich op reinforcement learning-beleid binnen constrained Markov decision processes. De kern: elke kandidaat-AI die in simulatie is getraind, wordt gecertificeerd voordat die in de productieomgeving wordt ingezet.
Dat certificeren gebeurt met een 'anytime valid test'. Die test gebruikt twee technieken: per-decision importance sampling en een betting confidence sequence. Het resultaat is dat de overdracht 'waarschijnlijk veilig' is over een onbegrensde reeks beleidsupdates. Het systeem kan dus herhaaldelijk worden verbeterd zonder dat de veiligheidsgaranties vervallen.
🧠 Even simpel uitgelegd
Stel dat je een zelfrijdende auto eerst in een videogame traint. In de game mag je crashen — niets kapot. Maar zodra de auto echt op straat rijdt, moet je zeker weten dat hij veilig is. Dejavu doet iets vergelijkbaars met een 'examen': elke nieuwe versie van de AI moet eerst een statistische toets doorstaan, met data van een al bewezen veilige auto, voordat die de straat op mag. En dat examen blijft geldig, hoe vaak je de AI ook verbetert.
Kwaliteit van de simulatie maakt niet uit
Een opvallend kenmerk: de theoretische veiligheidsgarantie hangt niet af van hoe goed de simulatie is. Volgens de auteurs beïnvloedt de nauwkeurigheid van de simulatie alleen hoe efficiënt er data in de productieomgeving wordt verzameld — niet de uiteindelijke veiligheid van het systeem.
De certificering gebruikt uitsluitend trajecten die zijn verzameld door een veilig basisbeleid dat al operationeel is in de productieomgeving. Door per test een optelbare foutkans te hanteren, verkrijgt de methode wat de onderzoekers de 'lifetime valid property' noemen.
Wat betekent 'waarschijnlijk veilig'?
'Waarschijnlijk veilig' (probably safe) is een statistische term. In het algemene taalgebruik betekent 'probably' dat iets zeer waarschijnlijk waar is — zie bijvoorbeeld thefreedictionary.com. In de context van machine learning duidt het op een statistisch onderbouwde veiligheidsgarantie.
Bewezen in de praktijk
De theoretische claims zijn niet alleen wiskundig onderbouwd. Empirische resultaten uit drie verschillende sim-to-real benchmarks ondersteunen het werk: de methode functioneert in de praktijk zoals voorspeld.
De kern van de innovatie? AI-systemen kunnen sneller en veiliger worden uitgerold in de echte wereld — zonder dat ontwikkelaars bij elke update opnieuw het risico op catastrofale fouten hoeven te accepteren. De volledige technische specificaties staan in het artikel op arxiv.org.