Wetenschappers hebben een innovatieve methode ontwikkeld om de rekenkracht en het geheugenbeslag van geavanceerde AI-modellen voor robotica te optimaliseren. De techniek, genaamd Role-Conditioned Sub-Token Routing (RoleSub), richt zich op het efficiënter verwerken van data in Vision-Language-Action (VLA) modellen, die essentieel zijn voor het vertalen van visuele input en taalinstructies naar concrete robotacties.
Een fundamenteel probleem bij VLA-modellen is de verwerking van lange sequenties van multimodale tokens. Volgens een wetenschappelijke publicatie van Wei Jiang en Wei Wang op arxiv.org zorgt dit proces voor een hoge belasting van het geheugen en de beschikbare rekenkracht tijdens de inferentiefase. Om dit aan te pakken, wordt vaak gegrepen naar 'token pruning', waarbij onbelangrijke visuele tokens volledig worden verwijderd. De auteurs stellen echter dat deze methode onbetrouwbaar kan zijn, omdat het volledig schrappen van een token direct leidt tot het verlies van de bijbehorende representatie.
Als alternatief voor het volledig verwijderen van tokens, onderzochten de wetenschappers sub-token compressie. Hierbij blijft het aantal tokens gelijk, maar wordt de breedte van de waarde-representatie verkleind. De onderzoekers merkten op dat directe compressie van VLA-policies minder effectief is, aangezien informatie voor perceptie, taal en controle ongelijk verdeeld is over de representaties. Om dit te overbruggen, introduceerden zij de RoleSub-methode. In de context van deze techniek speelt de 'rol' van een token een centrale functie. Hoewel de term 'role' in het Engels gewoonlijk verwijst naar een functie of taak, kan een variant met een circumflex (rôle) worden gebruikt om een specifieker onderscheid te maken, zoals besproken op stackexchange.com.
De werking van RoleSub is gebaseerd op het verdelen van de waarde-representaties van behouden tokens in groepen binnen een orthogonale ruimte. Een lichtgewicht router bepaalt vervolgens welke groepen bewaard moeten blijven. Deze selectie wordt gestuurd door drie variabelen: de representatie van het token zelf, een geleerde latente rolrepresentatie en de context van de taalinstructies. Een opvallend aspect van deze benadering is dat het niet enkel op visuele data is beperkt, maar ook op taalwaarden kan worden toegepast. Hierdoor kunnen zowel visuele als linguïstische gegevens worden gecomprimeerd zonder dat er tokens verloren gaan.
De prestaties van RoleSub zijn uitvoerig getest met het OpenVLA-OFT-7B model binnen vier LIBERO-suites. Uit de resultaten die zijn gedeeld via blijkt dat de nieuwe methode in 33 van de 36 geteste scenario's superieur was aan een controlemodel dat enkel gebruikmaakte van token-reductie, mits het visuele KV-budget gelijk bleef. De grootste verbeteringen werden waargenomen bij scenario's met zeer agressieve compressie.
Wanneer de compressie voor zowel taal als visuele data wordt gecombineerd, kan de totale KV-cache worden teruggebracht tot een fractie van de oorspronkelijke grootte, variërend tussen 9,2% en 11,3%. Ondanks deze drastische vermindering bleef de controleprestatie van het model bij de meeste taken sterk. De conclusie van de onderzoekers, zoals uiteengezet in hun , is dat het reduceren van de representatie binnen behouden tokens een effectieve aanvulling is op traditionele pruning. Dit maakt de weg vrij voor VLA-modellen die minder hardware-intensief zijn, maar wel accuraat reageren in complexe fysieke omgevingen.