Onderzoekers van de Yildiz Technical University hebben Atik ontwikkeld, een open-source hardwareversneller die specifiek is ontworpen om de efficiëntie van Transformer-modellen op RISC-V-architecturen te verhogen. De versneller richt zich op het optimaliseren van matrixvermenigvuldigingen en attention-mechanismen, de meest rekenintensieve onderdelen van moderne AI-modellen.
Architectuur en werking
Atik is ontwikkeld als een RoCC-accelerator (Rocket Custom Coprocessor) voor RocketChip. Het kernpunt van het ontwerp is een gedeelde fixed-point MAC-mesh (Multiply-Accumulate), die zowel voor matrixvermenigvuldigingen als voor dense attention-operaties wordt ingezet. Volgens de publicatie op arxiv.org maakt het systeem gebruik van BF16-tensors voor de invoer en uitvoer van gegevens.
Een opvallend kenmerk van Atik is de implementatie van een streaming online-softmax-planning. Deze techniek zorgt ervoor dat de volledige scorematrix nooit volledig in het geheugen hoeft te worden opgeslagen, wat de geheugenefficiëntie aanzienlijk verbetert. De communicatie tussen de processor en de versneller verloopt via een compacte, op descriptoren gebaseerde Application Binary Interface (ABI).
Prestaties en benchmarks
Om de effectiviteit van de versneller te testen, hebben de auteurs Ahmed Zeer en Erkan Uslu drie verschillende mesh-configuraties geëvalueerd via FireSim. Uit de resultaten blijkt dat de hardware zeer stabiel presteert; in een reeks van 137 testrecords op FireSim werden geen output-mismatches gerapporteerd en voldeden alle tests aan de gestelde benchmark-toleranties, zoals vermeld op papers.cool.
Wanneer de prestaties worden vergeleken met een scalaire Rocket BF16-referentie, vertoont de 8x8-configuratie van Atik significante versnellingen:
* Matrixvermenigvuldiging (matmul): Een piekversnelling van 31,5x.
* Attention-operaties: Een piekversnelling van 225,8x.
Daarnaast zijn er hybride projecties gemaakt voor specifieke workloads op basis van gemeten accelerator-kernelcycli. Hoewel dit geen volledige hardware-replays van de modellen waren, werden de volgende geaggregeerde versnellingen gerapporteerd via one9founders.com:
* ViT: 44,2x versnelling.
* TinyBERT: 77,1x versnelling.
* GPT-2 prefill: 32,3x versnelling.
Fysiek ontwerp en beschikbaarheid
Naast de simulaties hebben de onderzoekers ook gekeken naar de fysieke implementatie. In het onderzoek wordt de standalone physical-design area gerapporteerd op basis van de Sky130-technologie. De volledige details over de integratie van de RoCC-controleflow, de numerieke datapad en de lokale buffering voor tiles zijn opgenomen in de technische documentatie op .
Het project is open-source, wat betekent dat de architectuur toegankelijk is voor andere ontwikkelaars en onderzoekers binnen de AI- en hardwarecommunity. De focus van het werk ligt op het overbruggen van de kloof tussen generieke RISC-V-processoren en de specifieke, zware rekenbehoeften van Transformer-inferentie.
Het onderzoek is op 6 november 2026 gepubliceerd en valt onder de categorieën Artificiële Intelligentie en Hardware Architectuur, zoals gecategoriseerd door . De resultaten suggereren dat gespecialiseerde mesh-architecturen een effectieve manier zijn om de energie- en tijdefficiëntie van AI-inferentie op open-standaard hardware te verbeteren.