In de sector van high-performance computing is de optimalisatie van geheugenbeheer een kritieke factor voor de algehele systeemprestaties. Met de introductie van High Bandwidth Memory generatie 4 (HBM4) is het nu mogelijk om de zogenaamde 'base die' van de geheugenstack te vervaardigen met een logisch proces. Deze technologische verschuiving maakt het mogelijk om complexe controllerfuncties direct bij het DRAM te positioneren, in plaats van deze uitsluitend op de host-processor te concentreren.
Analyse van controllerverdeling
Recent onderzoek heeft voor het eerst een kwantitatieve analyse uitgevoerd naar de positionering van functies op functioneel niveau. In de studie arxiv.org onderzochten Tharunya Yogananda en Wantong Li vier verschillende scenario's voor de verdeling van taken. Deze variëren van een traditionele opzet waarbij de volledige controle aan de zijde van de host ligt, tot een configuratie waarbij de volledige controller op de base die is geplaatst. Ook tussenliggende opties, waarbij bijvoorbeeld enkel de planning of onderhoudstaken worden verplaatst, werden geëvalueerd.
Om deze verschillende architecturen te testen, hebben de auteurs Ramulator 2 uitgebreid met specifieke parameters voor timing en onderhoud die relevant zijn voor HBM4. Daarnaast is er een model ontwikkeld voor een die-to-die (D2D) verbinding, waarbij specifiek is gekeken naar de timingcontroles bij de DRAM-interface. De term merriam-webster.com in de titel van het onderzoek verwijst naar het overstijgen van de traditionele beperkingen van host-side controle.
Ruimtebesparing en energieverbruik
Een van de meest significante bevindingen van de studie is de impact op het fysieke oppervlak van de host-chip. Door de brede interface te vervangen door een D2D-verbinding, kan de 'shoreline' van de host met 61% worden verminderd. Volgens de leidt dit per stack tot een ruimtebesparing van 16,85 mm² op de processor.
Op het gebied van energie en prestaties stelt het onderzoek dat het verplaatsen van onderhoudstaken naar de base die geen negatieve gevolgen heeft voor de bandbreedte. Sterker nog, dit proces maakt command-slots op de host vrij, waarbij het voordeel toeneemt naarmate de geheugenstack hoger wordt. Bovendien blijft de base die koeler tijdens streaming-operaties en blijft het energieverbruik van de verbinding onder de 0,4 pJ/bit. Hoewel de D2D-verbinding wel zorgt voor een toename in het oppervlak en het stroomverbruik van de base die zelf, wordt de algehele efficiëntie als gunstig beoordeeld.
Effect op de doorvoer
De resultaten wijzen daarnaast op de voordelen van een gedeelde controlearchitectuur. Wanneer controle gedeeld wordt, kan een doorvoer worden gerealiseerd die tot 1,72 keer hoger ligt dan bij een statische verdeling tussen twee aanvragers. De D2D-verbinding zorgt ervoor dat de bandbreedte per stack behouden blijft, hoewel er wel een toename is in de onbelaste latentie; deze bedraagt ongeveer twee keer de vertraging van een enkele reis.
Het onderzoek is officieel geaccepteerd voor de IEEE International 3D Systems Integration Conference (3DIC), wat het belang van deze architecturale wijziging binnen de industrie bevestigt. De volledige technische details over de modellering van de interfacegegevens en de gesynthetiseerde controllerblokken zijn beschikbaar in het .