Onderzoekers hebben een methode ontwikkeld waarbij taalmodellen worden ingezet om leesbare controle-algoritmen te genereren voor industriële processen, wat een oplossing biedt voor het gebrek aan transparantie in traditionele neurale netwerken.
In de industriële sector is de controle van complexe processen cruciaal, maar de inzet van zogenaamde 'black-box' neurale beleidsregels vormt een uitdaging. Deze systemen zijn vaak moeilijk te interpreteren en te auditeren, terwijl juist die eigenschappen essentieel zijn voor de veiligheid en betrouwbaarheid in een fabrieksomgeving. Als alternatief stellen onderzoekers een methode voor waarbij Large Language Models (LLM's) worden gebruikt voor de synthese van heuristieken.
Volgens een wetenschappelijk artikel op arxiv.org stelt deze aanpak een taalmodel in staat om iteratief mensleesbare controllers in Python voor te stellen en te verfijnen. Hierbij wordt gebruikgemaakt van uitgebreide gedragsfeedback uit een simulator om de algoritmen stap voor stap te verbeteren.
Toepassing in de staalindustrie
Om de effectiviteit van deze programmatic policy search te testen, richtten de onderzoekers zich op het proces van warm staalwalsen. Dit is een complex controleprobleem met meerdere passes, waarbij verschillende doelstellingen met elkaar concurreren en er strikte beperkingen gelden voor de gebruikte apparatuur.
Tijdens het onderzoek werden 52 onafhankelijke runs uitgevoerd om te bepalen hoe een beperkt budget van LLM-iteraties het beste kan worden verdeeld tussen het volledig opnieuw starten van het proces en het verfijnen van bestaande voorstellen. Uit de resultaten blijkt dat runs van gemiddelde lengte overeenkomen met een optimale budgetallocatie. Bovendien werd vastgesteld dat 'Luby-style universal restarts' dit regime kunnen bereiken zonder dat er specifieke afstemming per probleem nodig is, zoals beschreven in de publicatie op .
Portfolio-benadering en verificatie
Een belangrijk aspect van het onderzoek is de manier waarop de gegenereerde heuristieken worden ingezet. Omdat elke individuele heuristiek relatief eenvoudig te simuleren is, kozen de onderzoekers voor een portfolio-benadering. Hierbij wordt per specifieke opdracht een kleine selectie van heuristieken gebruikt.
Deze methode bleek superieur aan het gebruik van één enkele beste heuristiek. Dit gold ook onder cross-validatie en bij operationele condities die buiten de standaardverdeling vielen ('out-of-distribution'), situaties waarin de beste individuele heuristiek vaak vastliep.
Om de veiligheid van de systemen te garanderen, is er een geautomatiseerde audit-pijplijn ontwikkeld. Deze pijplijn combineert drie verschillende technieken:
1. Statische analyse.
2. Z3-bewijzen.
3. Property-based testing.
In totaal werden 174 gesynthetiseerde heuristieken onderworpen aan deze controle, waarbij cruciale veiligheidseigenschappen konden worden bewezen. De onderzoekers merken echter op dat bepaalde problemen, zoals het 'stallen' van een proces, niet door de beloningsfunctie van de zoektocht of door deze veiligheidseigenschappen werden onthuld. Dit wijst erop dat specificaties in de toekomst ook expliciet progressie moeten dekken om volledige betrouwbaarheid te garanderen, aldus de auteurs op .
Conclusie over interpreteerbaarheid
De verschuiving van ondoorzichtige neurale netwerken naar leesbare Python-code biedt industriële operators de mogelijkheid om precies te begrijpen waarom een systeem bepaalde beslissingen neemt. Door de combinatie van LLM-gestuurde creatie en formele verificatie ontstaat er een kader waarin automatisering en auditeerbaarheid hand in hand gaan. De resultaten van de studie, die op 17 oktober 2026 in een herziene versie (v2) werden gepubliceerd op , tonen aan dat deze methodiek robuust is in uitdagende industriële scenario's.