Microsoft introduceert de ND H100 v5-reeks van instances voor zijn Azure-cloudplatform. De instances zijn geschikt voor AI-workloads en draaien rond de Nvidia H100-GPU.
Microsoft introduceert een nieuwe familie van instances voor Azure: de ND H100 v5-reeks. Zoals de naam suggereert zijn die instances gebouwd rond de Nvidia H100-GPU. Die krachtige chip, gebaseerd op de Hopper-architectuur, maakt de oplossing uitermate geschikt voor klanten die de nodige pk’s eisen voor AI-gerelateerde workloads.
De ND H100 v5-reeks is gericht op gebruikers met serieuze workloads. Iedere instance komt met acht H100-GPU’s. Die zijn intern verbonden via NVLink-technologie, die performanter is dan PCIe in dit geval.
AI-supercomputer
Je kan verschillende ND H100 v5-servers aan elkaar rijgen dankzij de Nvidia Quantum-2 InfiniBand-interconnect. Zo kan je in Azure een HPC-cluster bouwen met in theorie duizenden H100’s. De rekenkracht komt van Intel Xeon Scalable-processors van de vierde generatie. Hoewel AMD’s chips krachtiger en zuiniger zijn, laat Microsoft ze voor dit nieuwe aanbod voorlopig links liggen.
Met de ND H100 v5-instances geeft Microsoft organisaties de mogelijkheid om zelf hun exascale-AI-supercomputer in de cloud te bouwen. Dat is handig en zelfs noodzakelijk voor de training van geavanceerde AI-modellen. Microsoft stelt de nieuwe instances per direct beschikbaar in preview. Op termijn worden ze een standaard-onderdeel van het Azure-aanbod.