Nvidia stelt vast dat ARM-processors bijna even snel en soms zelfs sneller presteren dan x86-chips. Daarvoor kijkt het bedrijf wel naar erg niche workloads.
ARM-processors zijn stilaan evenwaardig aan x86-chips op het vlak van prestaties. Dat stelt Nvidia vast. De GPU-specialist testte servers met zijn eigen A100-GPU en een ARM en een x86-chip. Tijdens benchmarktests bleken de prestaties op hetzelfde niveau te zitten, al kon de x86-server hogere piekprestaties voorleggen.
Nvidia keek exclusief naar inferentie-workloads. Inferentie is het gebruik van eerder getrainde AI-modellen om zaken te herkennen of voorspellingen te maken. In één specifieke benchmark (3d-Unet) presteerde de server met ARM zelfs beter dan die met x86-chip.
Eigenbelang
De bevindingen van Nvidia kan je best met een industrieel vat zout nemen. Om te beginnen kijkt Nvidia enkel naar AI-gerelateerde workloads en die schetsen verre van het complete plaatje. Belangrijker is de agenda van Nvidia. De GPU-specialist zit in het midden van de felbesproken overname van ARM en hoopt in de toekomst op een ecosysteem van eigen GPU’s en accelerators gecombineerd met eigen ARM-chips in de plaats van processors van AMD of Intel.
Toch zit er ook waarheid in de claim. AWS stelde vorig jaar al vast dat zijn ARM-gebaseerde Graviton-chips een interessantere prijs-prestatieverhouding verzorgden dan x86-equivalenten. In de praktijk blijft ARM een architectuur die meer gericht is op efficiëntie. De instructieset beent x86 bij op het vlak van prestaties maar voor pure rekenkracht is x86 vooralsnog de betere keuze. Vooral wanneer je verbruik en kostprijs in rekening brengt, springt ARM er vaker bovenuit vergeleken met x86.
Appelen en peren
Nvidia stelt verder nog vast dat zijn A100-GPU 104 keer sneller is dan een CPU in MLPERF-benchmarks maar dat is niet meer dan normaal. Het gaat immers om twee totaal verschillende chips waarvan enkel de A100 gebouwd is op maat van machine learning-workloads. Eén chip is daarom niet beter dan de andere, hun doel verschilt. Op een A100 kan je bijvoorbeeld geen besturingssysteem draaien maar dat maakt de chip niet slechter dan een CPU. Met een racewagen kan je geen velden ploegen en met een tractor kan je geen races winnen: sommige vergelijkingen stellen weinig voor.