Het gebruik van Large Language Models (LLM's) om computercode te optimaliseren voor snelheid resulteert vaak in software die meer energie verbruikt dan handgeschreven code. Een nieuw onderzoek toont aan dat de aanname dat snellere code automatisch energie-efficiënter is, in de praktijk vaak onjuist blijkt.
In de softwareontwikkeling worden LLM's steeds vaker ingezet om de prestaties van code te verbeteren. De gangbare veronderstelling is dat een kortere executietijd direct leidt tot een lager energieverbruik. Echter, een studie getiteld "Green Code or Costly Code?", gepubliceerd op arxiv.org, stelt deze aanname empirisch ter discussie. De onderzoekers onderzochten of code die is gegenereerd via zelfverbeterende LLM-pipelines daadwerkelijk energie-efficiënter is dan canonieke referentieoplossingen geschreven door mensen.
Energieverbruik bij inferentie en executie
Het onderzoek richtte zich op 11 open-source modellen die werden getest op 1.000 problemen uit EffiBench, een benchmark voor prestaties. Hierbij werden hardwarematige energiemetingen per proces verzameld. De resultaten laten een aanzienlijke variatie zien in het energieverbruik tijdens de inferentiefase (het genereren van de code), variërend van 0,79 tot 8,68 MJ per model-variant paar. Ter vergelijking is dit ongeveer gelijk aan de energie die nodig is voor 250 tot 2.800 queries bij GPT-4.1, aldus de .
Een belangrijke bevinding is dat het beperken van het maximale aantal output-tokens de grootste impact heeft op het verlagen van dit verbruik. Door de output te limiteren kon het energiegebruik met maximaal 69% worden verminderd ten opzichte van de standaardconfiguraties.
De kloof tussen snelheid en duurzaamheid
Wanneer men kijkt naar de uiteindelijke uitvoering van de gegenereerde code, blijkt de situatie ongunstig voor de AI-benadering. Van de 44 geteste configuraties produceerden er 42 code die per probleem méér energie verbruikte dan de menselijke referentieoplossingen. De extra energielast (overhead) varieerde hierbij van 4% tot maar liefst 886%.
Slechts twee configuraties behaalden een marginale winst in energie-efficiëntie. Voor deze uitzonderingen zou het echter miljoenen keren (tussen 10^6 en 10^7 executies) moeten worden uitgevoerd voordat de initiële energiekosten van het optimalisatieproces zijn terugverdiend. De onderzoekers concluderen dat prestatieoptimalisatie en energie-efficiëntie geen synoniemen zijn; LLM-zelfverbetering produceert consistent code die weliswaar sneller probeert te zijn, maar zwaarder weegt op het energieverbruik dan code geschreven door een menselijke ingenieur.
Architecturale keuzes als oplossing
Naast de decoding-parameters wezen de onderzoekers op de rol van de modelarchitectuur. Modellen met een Mixture-of-Experts (MoE) architectuur verbruikten aanzienlijk minder energie tijdens de inferentie dan dense modellen van vergelijkbare grootte, zonder dat dit ten koste ging van de correctheid van de code. Volgens de is de keuze voor de architectuur daarom een effectievere hefboom voor duurzaamheid dan het aanpassen van decoding-instellingen.
Het onderzoek is geaccepteerd voor de 49e IEEE/ACM International Conference on Software Engineering (ICSE 2027). Terwijl tools zoals figma.com zich richten op het vertalen van designs naar code via AI-workflows, benadrukt dit wetenschappelijke werk dat de focus op snelheid in AI-gegenereerde code niet automatisch bijdraagt aan een groenere digitale infrastructuur. De resultaten suggereren dat er een kritischer blik nodig is op de ecologische voetafdruk van iteratieve code-optimalisaties door kunstmatige intelligentie.