Meer dan een half jaar na de aankondiging van de nieuwe H100-accelerators door Nvidia, vinden de krachtige AI-chips nu ook hun weg naar concrete systemen. Bij die aankondiging hoort meteen nieuwe AI Enterprise-software.
In maart van vorig jaar kondigde Nvidia zijn H100-accelerators aan. De Nvidia H100 is gebaseerd op de Hopper-architectuur en is zo de opvolger van de Ampere Nvidia A100. Ondanks de introductie van de chip meer dan een half jaar geleden, bleef het wachten op concrete tekenen van beschikbaarheid. Acht maanden lang bestond de Nvidia H100 vooral op papier, maar daar komt nu verandering in.
Nog niet echt beschikbaar
In de marge van de Supercomputing 2022-conferentie in Dallas introduceren zowat alle grote fabrikanten HPC-systemen gebouwd rond de Nvidia H100. Over de systemen van Dell gingen we eerder vandaag al in iets meer detail, maar ook HPE en Supermicro hebben al toestellen op het menu staan. Die zullen allemaal de komende maanden beschikbaar komen. Andere fabrikanten zoals Asus, Atos, Gigabyte en Lenovo hebben eveneens systemen op de planning staan.
Op effectieve beschikbaarheid is het nog even wachten. De eerste systemen zullen in principe in het eerste kwartaal van 2023 verschepen. Dat is ongeveer een jaar na de lancering van de Hopper H100.
‘Gratis’ Enterprise AI-software
Nvidia koppelt de introductie van de H100-systemen aan een vernieuwde push om zijn software-aanbod aan de man te brengen. Daartoe volgt de chipdesigner de strategie van een succesvolle drugsdealer: het eerste proefje is gratis. Wie een H100-systeem koopt, krijgt daarbij immers een licentie voor de Nvidia AI Enterprise-oplossing die vijf jaar lang geldig is. De promotie geldt enkel voor PCIe-servers.
Het lijkt erop dat iedere H100-kaart komt een licentie voor één CPU-socket komt. De Enterprise AI-software is dus gratis voor systemen met evenveel H100’s als CPU’s. Voor systemen met bijvoorbeeld vier H100’s en twee CPU’s, kom je wel twee licenties tekort. Die zijn 8.000 dollar per stuk waard.
Nvidia hoopt met de strategie de ongetwijfeld pittige kostprijs van H100-systemen een beetje makkelijker te slikken te maken. Bovendien kan het bedrijf zijn software zo voor de neuzen van meer AI-specialisten krijgen. Dat is belangrijk, aangezien Nvidia van software een belangrijke bedrijfstak wil maken.