Onderzoekers hebben een nieuwe methode ontwikkeld om Convolutionele Neurale Netwerken (CNN) direct op edge-devices te trainen met een extreem laag geheugengebruik. Door een combinatie van hardware- en software-optimalisaties kan de training nu plaatsvinden binnen een on-chip SRAM-budget van minder dan 100 kilobyte.
Het trainen van deep learning-modellen is traditioneel een proces dat enorme hoeveelheden rekenkracht en geheugen vereist, waardoor dit meestal in grote datacenters gebeurt. De groeiende behoefte aan real-time verwerking en gepersonaliseerde AI maakt het echter essentieel om dit proces naar 'edge-devices' te verplaatsen. Onder een device wordt in algemene zin verstaan dat het hardware is, zoals een laptop of printer, waarop software is geïnstalleerd woorden.org.
In een recent wetenschappelijk artikel, gepubliceerd op 11 november 2026, presenteren I-Hsuan Li en Tian-Sheuan Chang een oplossing voor de hoge geheugen- en computationele kosten die on-device training normaal gesproken onmogelijk maken. Hun voorgestelde CNN-trainingsaccelerator maakt gebruik van een dynamisch mechanisme voor ijle updates (dynamic sparse updates). Hierbij worden selectief alleen de belangrijkste parameters bijgewerkt via een specifieke strategie voor willekeurige kanalen, waardoor kostbare evaluaties worden vermeden arxiv.org.
Drastische reductie van geheugen en tijd
Een van de meest opvallende resultaten van dit onderzoek is de efficiëntie in opslag. Door de implementatie van zogenaamde 'activation pruning' is de opslag voor activaties teruggebracht tot slechts 3,4% van de oorspronkelijke hoeveelheid. Dit stelt het systeem in staat om te functioneren binnen een zeer beperkt on-chip SRAM-budget; in de fysieke silicium-implementatie bedraagt dit slechts 95 KB .
Naast de geheugenbesparing is er een aanzienlijke verbetering in snelheid gerealiseerd. De hardware maakt gebruik van een 'fused forward dataflow', waarbij groepsnormalisatie en convolutie gelijktijdig worden verwerkt. Volgens de auteurs leidt dit, in combinatie met efficiënte 'zero-skipping' en het herordenen van berekeningen, tot een vermindering van de trainingstijd met 45% .
Technische specificaties en prestaties
De accelerator is gerealiseerd met behulp van het TSMC 28nm-proces en maakt gebruik van FP8-precisie. De technische prestaties van het ontwerp zijn als volgt gedetailleerd:
* Klokfrequentie: 800 MHz.
* Doorvoersnelheid: Een piek van 8 TOPS (Tera Operations Per Second).
* Energie-efficiëntie: 31,13 TOPS/W.
* Oppervlakte-efficiëntie: 14,8 TOPS/mm².
* Energieverbruik: Dit varieert tussen de 257 en 272 mW .
Context van hardware en software
De term 'device' wordt in de technologische sector breed gebruikt voor fysieke of virtuele apparaten waarop software draait rosa.wikixl.nl. De innovatie van Li en Chang is specifiek gericht op het overbruggen van de kloof tussen de zware eisen van AI-training en de beperkte capaciteiten van dergelijke hardware. Waar een device voorheen vaak enkel diende om een reeds getraind model uit te voeren (inferentie), maakt dit hardware-software co-design het mogelijk om het model ter plekke aan te passen aan de gebruiker of de omgeving.
Het onderzoek is gepresenteerd op de AICAS 2026 en is beschikbaar gesteld via het archief van arXiv encyclo.nl. De resultaten suggereren dat gepersonaliseerde deep learning op zeer kleine schaal nu technisch haalbaar is zonder dat er een constante verbinding met krachtige externe servers nodig is.