← Terug
Jaguar-systeem versnelt private neurale netwerkinferentie via nieuwe rekenmethode

Jaguar-systeem versnelt private neurale netwerkinferentie via nieuwe rekenmethode

Onderzoekers hebben Jaguar ontwikkeld, een nieuw systeem dat de snelheid van private neurale netwerkinferentie aanzienlijk verhoogt door het gebruik van een specifieke ciphertext-ring. De technologie vermindert de latentie en de communicatiebehoefte bij het verwerken van complexe AI-modellen.

In de wereld van privacy-behoudende AI vormt de inferentie van neurale netwerken vaak een technische uitdaging. Traditionele hybride systemen, die gebruikmaken van homomorfe encryptie (HE) en secure multi-party computation (2PC), kampen vaak met vertragingen. Volgens een wetenschappelijk artikel op arxiv.org worden deze processen momenteel belemmerd door prime-modulus homomorfe rekenkunde bij convoluties en een inefficiënte precisiestroom bij ReLU-operaties.

Een nieuwe benadering van ciphertext

Om deze knelpunten op te lossen, hebben Yewon Jeong, Nayoung Jung, Hyeri Roh en Woo-Seok Choi het systeem Jaguar ontwikkeld. De kern van deze innovatie is een bewuste ontwerpkeuze: het gebruik van een ciphertext-ring gebaseerd op een macht van twee. Deze aanpassing stelt het systeem in staat om twee grote problemen in de huidige workflow aan te pakken.

Ten eerste introduceert Jaguar de zogenaamde SPA-Conv. Dit is een convolutiekernel in het coëfficiëntdomein die de traditionele, rekenintensieve NTT-centrische polynoomvermenigvuldiging vervangt door 'Scalar-Polynomial Accumulation'. Ten tweede maakt de nieuwe structuur een exacte truncatie aan de ciphertext-zijde mogelijk via lokale rechtsverschuivingen. Hierdoor kan de ReLU-functie direct op de beoogde fixed-point precisie worden uitgevoerd, wat een apart truncatieprotocol na de ReLU-stap overbodig maakt.

Prestaties en benchmarks

De effectiviteit van Jaguar is getest op ImageNet-schaal met verschillende populaire architecturen, waaronder ResNet-18, ResNet-50 en MobileNetV2. In tests waarbij AVX was uitgeschakeld, toonde het systeem superieure resultaten vergeleken met bestaande oplossingen.

Volgens de data in de publicatie op behaalde Jaguar een end-to-end latentie die 2,07 tot 3,72 keer lager lag dan die van het systeem Cheetah. Vergeleken met Rhombus was de latentie 2,16 tot 3,36 keer lager. Naast de snelheidswinst was er ook een verbetering in de efficiëntie van de gegevensuitwisseling; de communicatiebehoefte was 1,16 tot 1,76 keer lager dan bij Cheetah.

Behoud van decryptiesnelheid

Een kritiek punt bij het wijzigen van de ciphertext-ring is het risico op vertraging tijdens de decryptie aan de clientzijde, waar de Number Theoretic Transform (NTT) nog steeds essentieel is voor de enkele polynoomvermenigvuldiging. Om dit op te vangen, maakt Jaguar gebruik van een hulp-NTT-priemgetal. Hierdoor blijft de basis van het protocol gebaseerd op machten van twee, terwijl de decryptiesnelheid behouden blijft op een complexiteit van O(N log N).

Het onderzoek naar Jaguar is inmiddels erkend door de wetenschappelijke gemeenschap en is geaccepteerd voor presentatie op de conferentie NeurIPS 2026, zoals vermeld in de .

Context van privacy en communicatie

Hoewel de focus van het onderzoek ligt op de cryptografische optimalisatie van AI-inferentie, benadrukt de bredere trend in de technologiesector de groeiende vraag naar privacy. Bedrijven en diensten, variërend van academische platforms tot commerciële communicatietools zoals whatsapp.com, leggen steeds meer nadruk op beveiliging en privacy-instellingen voor hun gebruikers. De ontwikkeling van systemen zoals Jaguar draagt bij aan de mogelijkheid om complexe AI-analyses uit te voeren zonder dat de onderliggende data blootgesteld worden.

De volledige technische details en de camera-ready versie van het onderzoek zijn beschikbaar via de , waar de laatste revisie op 3 november 2026 is geplaatst.

Geraadpleegde bronnen
Waardering
0
Stem mee op dit artikel
Discussie
Nog geen reacties. Wees de eerste!