Robots maken steeds vaker gebruik van krachtige 'foundation models'. Die modellen beheersen allerlei taken en lichamen (embodiments), maar hebben één zwakke plek: defecte sensoren. En als zo'n model een 'black box' is — bevroren of ontoegankelijk — dan is het vrijwel onmogelijk om te achterhalen waarom een robot fouten maakt, laat staan om die fouten in realtime te herstellen.
Onderzoekers Marc Ziegler en collega's presenteren daarvoor een oplossing in het onderzoek "When Black-Box Robot Policies Fail: Online Sensor Diagnosis and Repair with a Transparent Surrogate", gepubliceerd op arxiv.org.
🧠 Even simpel uitgelegd
Stel je voor: een robot loopt op vier poten, maar één sensor geeft rare waarden door. Het 'brein' van de robot is een gesloten doos — niemand mag erin kijken. De onderzoekers bouwden daarom een soort externe waarnemer naast de robot. Die waarnemer kent het normale looppatroon (de 'gait') en ziet dus meteen wanneer de robot iets doet dat niet op het patroon lijkt, maar wél op een kapotte sensor. Vervolgens 'repareert' hij de foutieve sensorinformatie voordat die het brein bereikt. Het brein zelf blijft dus onaangetast — de correctie gebeurt volledig van buitenaf.
Hoe de transparante monitor werkt
Het systeem gebruikt een extern surrogaatmodel: een transparante monitor naast het black-box-model. Die monitor maakt een strikt onderscheid tussen twee dingen: de periodieke loopbewegingen (gait) van de robot en correcties die gebaseerd zijn op sensorgegevens.
Dankzij die scheiding kan het systeem bepalen wanneer sensorinput corrupt is én hoe die input hersteld moet worden om de robot stabiel te houden. En dat allemaal zonder toegang tot de interne parameters van het oorspronkelijke besturingsmodel.
Indrukwekkende cijfers in simulatie
De methode is getest op een gesimuleerde versie van de Go2-robot. De resultaten zijn veelbelovend:
- Offline diagnose verhoogde het aantal succesvolle loop-episodes van 259 naar 429 van de 640 geteste scenario's.
- Online realtime herstel leverde een succesrate op van 382 op 640 episodes.
- Geen valse alarmen: in 64 testgevallen zonder sensorfouten trad geen enkele foutieve trigger op.
Dat laatste is cruciaal voor de veiligheid: het systeem grijpt alleen in als er echt iets mis is.
Vergelijking met alternatieven
De onderzoekers zetten hun gestructureerde aanpak af tegen een surrogaatmodel op basis van 'boosted-trees'. Dat alternatief kon net zo goed schone acties voorspellen, maar bood geen enkele verbetering bij het herstellen van fouten vergeleken met een situatie zonder herstelmechanisme.
De methode is ook getest op andere robots, waaronder de Go1 en de ANYmal C. Losse aanpassingen (separate fits) verbeterden daar de loopcapaciteiten, maar 'phase-aware gradients' presteerden nog beter.
Kanttekeningen
De auteurs zijn zelf duidelijk over de beperkingen. Het bewijs is momenteel beperkt tot één specifiek model en een gedeeltelijk gescreende set gesimuleerde fouten. Validatie op echte hardware en uitgebreidere tests met diverse robot foundation models blijven nog openstaan.
Wetenschappelijke erkenning
Het onderzoek is geaccepteerd voor de Conference on Robot Learning 2026 Workshop on the Science of Physical AI Safety (SPAIS). Dat onderstreept het belang van AI-veiligheid in fysieke systemen: het vermogen om fouten in externe sensoren te diagnosticeren is cruciaal voor de veilige inzet van autonome robots in omgevingen waar mensen rondlopen.