Oracle Cloud Infrastructure krijgt Google TPU’s in zijn aanbod. Het is de eerste keer dat Google zijn eigen AI-chips aanbiedt op een hyperscale cloudplatform buiten het eigen bedrijf.
Oracle en Google kondigen aan dat Google’s Tensor Processing Units (TPU’s) beschikbaar komen via Oracle Cloud Infrastructure (OCI). De aankondiging gebeurde op de beurs Oracle AI World in Las Vegas. Oracle voegt de TPU’s toe aan zijn bestaande aanbod van rekenkracht voor AI. Klanten kunnen daardoor per workload kiezen welke hardware het best past.
Rol van beide bedrijven
Google ontwikkelt de TPU’s als eigen accelerators, samen met open software. Oracle zorgt voor de stroomvoorziening, de koeling en het netwerk in zijn datacenters om de chips op grote schaal te draaien. Mahesh Thiagarajan, president van Oracle Cloud Infrastructure, zegt dat verschillende AI-workloads verschillende noden hebben. Klanten krijgen volgens hem toegang tot meerdere architecturen in één cloud en kunnen kiezen op basis van prestaties, doorvoer en kosten.
Amin Vahdat, senior vice president en chief technologist AI & Infrastructure bij Google, verwacht dat de volgende generatie AI uiteenlopende rekenkracht nodig heeft. Met OCI krijgen meer organisaties toegang tot de technologie.
Wat de TPU’s kunnen
Volgens Google zijn de TPU’s ontworpen om zoveel mogelijk AI-verwerking uit elke watt stroom te halen. De chips ondersteunen het trainen van grote modellen, waaronder dense modellen en mixture-of-experts-modellen (MoE), en inference voor redenerende AI, AI-agenten en toepassingen met lange context.
De achtste generatie bestaat uit twee architecturen: de TPU 8t voor training en de TPU 8i voor inference. Google zegt dat de TPU 8t de ontwikkeltijd van frontiermodellen terugbrengt van maanden naar weken. Per pod levert die bijna drie keer meer rekenkracht dan de vorige generatie. De TPU 8i is bedoeld voor het iteratieve werk van veel gespecialiseerde AI-agenten.
De TPU’s komen in kalenderjaar 2027 beschikbaar op OCI. Daarna breidt Oracle het aanbod over meerdere jaren uit, naargelang de vraag van klanten.