AI-systemen verrassen je regelmatig met een ander antwoord dan je verwacht. Dat is irritant, maar in streng gereguleerde sectoren is het ronduit gevaarlijk. Daar moet elke beslissing exact te herleiden zijn.
Onderzoeker Ali Toygar Abak pakt dat probleem aan met Phionyx, een nieuw AI-framework. Het uitgangspunt is simpel maar radicaal: de output van een AI-model is geen definitief besluit, maar ruisige data. "Noisy sensor measurements", noemt Abak het.
Phionyx filtert die ruis eruit en verwerkt de data via wiskundige regels die altijd hetzelfde resultaat opleveren. Geen verrassingen meer, maar reproduceerbaar gedrag. Dat is essentieel voor omgevingen waar elke actie van de AI tot in detail gecontroleerd moet worden.
De aanpak staat beschreven op arxiv.org.
🧠 Even simpel uitgelegd
Stel je vraagt een AI om een route te berekenen. Normaal geeft de AI elke keer een net iets andere route, omdat hij steeds opnieuw "probeert te raden" wat het beste antwoord is. Phionyx werkt anders. De AI mag wel raden, maar Phionyx behandelt dat gokje als een ruwe schets. Vervolgens past Phionyx strikte regels toe om de definitieve route te berekenen. Die regels werken als een rekenmachine: dezelfde input levert altijd exact dezelfde output op. Voorspelbaar en controleerbaar.
Drie lagen voor controle
De techniek achter Phionyx bestaat uit drie lagen. De eerste laag is de deterministische evaluatiekern, die de ruisige data verwerkt via een pijplijn van 46 blokken. De tweede laag is de Unified Safety Layer. Deze dwingt privacyregels af op architecturaal niveau, nog vóórdat er een reactie wordt gegenereerd. De derde laag is een semantisch geheugensysteem. Dit weegt de impact van gegevens en bewaart alleen wat echt relevant is.
Minder rekenkracht, betere data
De resultaten zijn veelbelovend. In een simulatie met 30% onveilige input verbruikt Phionyx ongeveer 31% minder rekenkracht dan systemen die achteraf filteren. Het semantische geheugen presteert bovendien aanzienlijk beter dan de gangbare Least Recently Used-methode. De retentie van hoogwaardige data stijgt tot 72%.
Bewezen reproduceerbaar
Hoe deterministisch is het systeem écht? Abak voerde 100 identieke runs uit. Via hash-verificatie toonde hij aan dat de controlesignalen geen enkele variantie vertoonden. Tijdens deze tests met enkelvoudige instanties vonden bovendien geen ongeplande herstarts plaats.
Volgende stap: complexere systemen
Voorlopig werkt Phionyx alleen in enkelvoudige implementaties. Het generaliseren naar multi-tenant omgevingen of gedistribueerde systemen is een doel voor de toekomst. Om validatie door de wetenschappelijke gemeenschap mogelijk te maken, heeft Abak de referentie-implementatie openbaar gemaakt. Evaluatie-artefacten en reproductiepakketten zijn beschikbaar via Zenodo en GitHub, zodat andere ontwikkelaars het systeem kunnen testen en optimaliseren.