Een robot maakt een fout. Welk onderdeel in het model was daarvoor verantwoordelijk — en in welke mate? Dat is de kernvraag bij het analyseren van incidenten met robot-fundatiemodellen. Volgens nieuw onderzoek schieten de huidige analysemethoden daarbij tekort: ze vinden niet de exacte oorzaak van een defect.
Concepten herkennen is niet genoeg
Onderzoeker Gihyuk Ko analyseert in een position paper op arxiv.org wat hij de "concept-malfunction gap" noemt: de kloof tussen het begrijpen van concepten in een model en het aanwijzen van de werkelijke oorzaak van een storing.
De huidige standaard voor zo'n analyse is mechanistische interpreteerbaarheid (MI). Die methode decodeert welke concepten een beleid (policy) heeft geleerd. Maar dat is volgens Ko onvoldoende. Het herkennen van een algemeen principe of idee — gedefinieerd als een "principle or idea" in het cambridge.org — is iets anders dan de technische component aanwijzen die in een specifieke situatie de fout veroorzaakte.
Nieuw kader: werkelijke causaliteit
Om die kloof te dichten, stelt Ko een andere benadering voor: foutisolatie vanuit het perspectief van "actual causality" (werkelijke causaliteit). Een foutisolatie-vraag wordt daarin geformaliseerd als een combinatie van vier elementen:
- Interveniërende interne componenten;
- Contrafactuele waarden;
- Contingenties;
- Read-outs.
Door deze lens worden de zwaktes van de huidige MI-methoden zichtbaar. Die gaan vaak uit van vaste contingenties en meten enkel directe effecten. Het gevolg: back-upsystemen binnen het model kunnen de werkelijke oorzaken maskeren. Zo ontstaat een vertekend beeld van waarom een robot een fout maakte.
Tegenstrijdige conclusies mogelijk
Ko laat de theoretische tekortkomingen zien aan de hand van een vereenvoudigd voorbeeld (toy example). Daarin blijkt dat de huidige beperkingen kunnen leiden tot tegenstrijdige oordelen over de oorzaak van een defect. Daarmee onderstreept hij de noodzaak van een striktere definitie van wanneer een foutisolatie-vraag "goed gespecificeerd" is.
Het onderzoek is geaccepteerd voor de Science of Physical AI Safety (SPAIS)-workshop op CoRL 2026 en concludeert dat er vier open onderzoekstaken zijn die moeten worden vervuld om de kloof tussen concepten en werkelijke defecten te dichten.
Context en publicatie
Het artikel verscheen op 30 oktober 2026 via arxiv.org onder de categorieën Robotica en Artificiële Intelligentie. Het werk vormt een theoretische basis voor toekomstige veiligheidsanalyses van fysieke AI-systemen. De focus verschuift daarin van algemene conceptuele interpretatie naar precieze causale analyse van incidenten.
🧠 Even simpel uitgelegd
Stel dat je fiets een platte band krijgt. Je weet dat de band, het ventiel en de pomp allemaal met lucht te maken hebben — dat is als het "begrijpen van concepten" in een robotmodel. Maar dat zegt niet wát er nu precies misging: was het een lek in de band, een kapot ventiel of een defecte pomp? Het nieuwe onderzoek zegt: huidige analysemethoden kijken alleen naar welke concepten een robotmodel kent, maar niet naar welk onderdeel in een specifieke situatie de echte boosdoener was. Soms pakken ze zelfs het verkeerde onderdeel, omdat een back-upsysteem de fout ongemerkt opving. De onderzoeker wil daarom een scherpere methode die wél de echte oorzaak aanwijst.