De afgelopen 2 jaar zijn er naar schatting 3,5 miljoen H100 GPU’s van Nvidia verkocht. Deze GPU’s verbruiken in totaal meer stroom dan sommige kleine Europese landen.
Nvidia verkocht het afgelopen kwartaal een half miljoen H100-GPU’s, die elks zo’n 700 watt aan stroom verbruiken. Dit is meer dan het gemiddelde verbruik van een Amerikaans huishouden. Doordat deze GPU’s ook actief ingezet worden voor AI-workloads, wordt nu voorspeld dat het totale energieverbruik van deze GPU’s net zo hoog zal zijn als dat van een Amerikaanse stad, en zelfs meer stroom zullen verbruiken dan sommige kleine Europese landen.
Hoger stroomverbruik dan sommige kleine EU-landen
De Nvidia H100 GPU’s verbruiken elk 700 watt aan stroom. Als je weet dat het totale verbruik van al die GPU’s samen meer is dan het verbruik in sommige kleine Europese landen, is dat niet niks. Bij een jaarlijks gebruik van 61% zou een H100 GPU ongeveer 3.740 kilowattuur (kWh) elektriciteit verbruiken per jaar. Ervan uitgaande dat Nvidia de afgelopen twee jaar 3,5 miljoen van dergelijke processoren verkocht heeft, zal er in totaal maar liefst 13.091.820.000 kWh elektriciteit per jaar verbruikt worden.
lees ook
Intel introduceert eigen concurrent voor Nvidia H100 en AMD MI300: de Gaudi3 AI-accelerator
Het stroomverbruik van de GPU’s lijkt nogal schokkend, maar de ontwikkelingen op gebied van efficiëntie binnen AI en GPU’s nemen alleen maar toe. Nvidia doet het dan ook goed op gebied van GPU’s en heeft de miljarden omzet voornamelijk te danken aan het succes van de H100-accelerators. Hoewel de concurrentie steeds om de hoek loert, houdt Nvidia het been stijf.