Nvidia lanceert een upgrade van zijn compacte supercomputer. De Nvidia DGX Station A100 320GB krijgt dubbel zoveel geheugen als zijn voorganger en dat heeft een dramatische impact op de prestaties.
Op de digitale GTC2021-conferentie introduceert Nvidia een nieuwe versie van zijn DGX Station-supercomputer. Nvidia introduceerde de eerste DGX Station op de conferentie vorig jaar. De compacte systemen huisvesten de kracht van een AI-supercomputer in een bescheiden chassis. Nvidia ontwikkelt de toestellen voor gespecialiseerde bedrijven die nood hebben aan krachtige AI- en machine learning-prestaties voor de analyse van data of training van neurale netwerken. Voor dergelijke workloads biedt het systeem de pk’s van een uit de kluiten gewassen HPC-systeem in het formaat van een rackserver.
Verdubbeld geheugen
Het nieuwe systeem is net als zijn voorganger opgebouwd rond de Nvidia A100 Ampere-GPU: de krachtigste chip in het arsenaal van de GPU-specialist. Nvidia heeft de A100 echter van een upgrade voorzien. De nieuwe versie kan overweg met 80 GB aan HBM2e-geheugen per kaart. Dat is een verdubbeling tegenover de originele A100. In een enkele DGX-node zitten vier dergelijke accelerators, goed voor 320 GB aan HBM2e-geheugen.
Nvidia kiest voor AMD voor de processorcomponent in de hardware. Het systeem ziet er onder de motorkap als volgt uit:
- 4x Nvidia A100
- 320 GB GPU-geheugen
- AMD Epyc 7742-processor (64 kernen, 2,25 GHz basisklok)
- 512 GB DDR4
- 1,92 TB NVMe (OS)
- 7,68 TB U.2 NVMe (opslag)
- Display-GPU met 4x MiniDisplayPort (4 GB)
- Ubuntu Linux
Volgens CEO Jensen Huang zal deze nieuwe DGX Station 3,17 keer efficiënter zijn in de training van modellen, 4,35 sneller presteren voor inferentie en 1,85 keer beter presteren voor algemene HPC-workloads. Het nieuwe systeem geeft zo een enorme boost aan de beschikbare prestaties in eenzelfde behuizing. Voor de toekomst heeft Nvidia nog snellere systemen op het oog, maar daarvoor neemt het afscheid van AMD’s x86-processors en kijkt het naar de pas aangekondigde zelf ontwikkelde Nvidia Grace-CPU.
De Nvidia DGX Station 320GB komt nog deze maand beschikbaar voor een adviesprijs van 149.000 dollar. Nvidia voorziet ook een abonnementsmodel. In die formule betaal je 9.000 euro per maand.