Meta zou vanaf 2027 mogelijk Google TPU’s inzetten, en dat zorgde voor een daling van Nvidia’s beurswaarde.
Volgens The Information wil Meta de nieuwe TPU van Google inzetten in zijn eigen datacenters. Voor Nvidia, die normaal levert aan Meta, is dat niet prettig. Zeker niet nu de vraag naar Google’s Ironwood-versnellers sterk groeit.
Nvidia benadrukt in een reactie dat Google “grote vooruitgang” boekt, maar stelt tegelijk dat zijn eigen platform “een generatie voorloopt” en alle AI-modellen ondersteunt, ongeacht de werkbelasting of omgeving.
Geen eenvoudige overstap naar TPU-clusters
Zelfs als Google TPU’s zou verkopen is een overstap voor Meta allesbehalve gemakkelijk, schrijft The Register. TPU-clusters gebruiken optische circuit switches, die verschillend zijn van Nvidia- en AMD-gebaseerde GPU-omgevingen. Ook PyTorch werkt niet standaard op TPU’s.
Dat maakt het waarschijnlijker dat Meta vooral praat over betere inferentieoptimalisatie voor Llama op Google-hardware, niet over een volledige TPU-adoptie. Inferentie is minder zwaar, goedkoper en draait probleemloos op gehuurde TPU’s.
Google TPU’s winnen terrein
Anthropic schakelt voor zijn volgende Claude-generatie tot één miljoen Google TPU’s in, een ook Amazon investeert in de TPU’s voor Trainium. Tegelijk sloot het bedrijf vorige week een miljardencontract met Microsoft en Nvidia voor Azure.