Google introduceert een preview van nieuwe Cloud TPU VM’s, waarmee het bedrijf zijn TPU’s eenvoudiger ter beschikking wil stellen van bedrijven.
Google start een preview van Cloud TPU VM’s op het Google Cloud Platform. De TPU’s of Tensor Processing Units zijn chips speciaal ontwikkeld door Google om AI- en ML-workloads te verzetten. Met het nieuwe aanbod krijg je rechtstreekse toegang tot TPU-hosts zodat je volgens Google efficiënter aan de slag kan gaan met TensorFlow, PyTorch en JAX.
Gebruikers kunnen bijvoorbeeld starten met een enkele TPU VM om hun ML-modellen te bouwen en te debuggen, om vervolgens snel te schalen met een Cloud TPU-pod. Voor die functionaliteit voorziet Google snelle TPU-interconnects.
Directe toegang
Klanten hebben root-toegang tot TPU VM’s, zodat ze de TPU’s naar believen kunnen integreren in hun workflows. Die directe toegang maakt het mogelijk om zelfgebouwde code te draaien zoals je wil, gecombineerd met lokale opslag.
Google leverde al instances met TPU’s, maar daarbij draaiden de TPU’s niet in dezelfde server als de rest van de virtuele machine. De toegang kwam via een netwerklink, wat een negatieve impact had op de prestaties. De nieuwe VM’s hebben wel directe hardwarematige beschikking over de TPU’s, wat de snelheid ten goede komt.
Types en prijs
Organisaties die interesse hebben, kunnen nog kiezen uit de TPU v2-chips of de nieuwere en snellere TPU v3-exemplaren. Versie 2 heeft een rekenkracht van 180 teraflops, versie 3 kan tot 420 teraflops aan. Intussen sleutelt Google ook al aan een nog snellere vierde versie.
De preview van de Cloud TPU VM’s is per direct beschikbaar in us-central1 en europe-west4. Je kan zowel een enkele VM als een Cloud TPU Pod-slice gebruiken. Voor een enkel toestel met een v2-TPU kan je aan de slag vanaf 1,35 dollar per uur.