Nvidia’s supercomputer in de cloud is voortaan beschikbaar via de Oracle Cloud Infrastructure (OCI). Via de marktplaats krijg je toegang tot de enorme GPU-capaciteiten van de oplossing.
Oracle biedt voortaan Nvidia DGX Cloud aan via z’n eigen cloudinfrastructuur. DGX Cloud is zoals de naam suggereert een cloudversie van Nvidia’s DGX-architectuur. Die combineert op haar beurt de krachtige Hopper H100-accelerators van Nvidia met Intel Xeon Sapphire Rapids-processors. Het geheel wordt samen gelijmd via interconnects van Nvidia zelf.
Combineren tot HPC-cluster
Iedere instance in DGX Cloud heeft acht GPU’s aan boord, goed voor een totaal grafisch geheugen van 640 GB. Klanten kunnen verschillende instances combineren om zo tot een enorm HPC-cluster te komen. Zo kunnen gebruikers een GPU-supercomputer inzetten via de cloud en alleen betalen voor het verbruik, zonder dat ze zelf de immense investering in zo’n systeem moeten maken.
Nvidia DGX Cloud komt in tandem met de Nvidia AI Enterprise-softwaresuite. Daarin zitten onder andere frameworks en vooraf getrainde fundamentmodellen waarmee ontwikkelaars snel aan de slag kunnen. Gebruikers kunnen die of eigen modellen verder trainen op hun eigen data, zonder dat die gedeeld wordt met derde partijen.
Beschikbaarheid
DGX Cloud is beschikbaar via de Oracle Cloud Marketplace. Daar staat de dienst omschreven als een platform voor AI-training-as-a-Service, wat het opzet meteen goed samenvat. Een vaste prijs is er niet: daarvoor moet je Oracle contacteren.