Microsoft bouwt zelf aan een netwerkkaart voor z’n eigen datacenters. De kaart moet vooral de efficiëntie van clusters met GPU-servers verbeteren.
Microsoft neemt met plezier GPU’s van marktleider Nvidia af, maar als het op netwerkkaarten aankomt, neemt team Azure het heft liefst in eigen handen. Nvidia heeft zijn ConnectX-7-reeks van netwerkadapters en Microsoft zou nu intern een alternatief ontwikkelen. Dat bevestigt Microsoft nog niet zelf, maar werd gelekt door een anonieme bron aan The Information. Het kan meer dan een jaar duren voor het ontwikkelwerk van Microsoft z’n vruchten afwerpt.
CPU ontlasten
De eigen netwerkkaart moet vooral AI-clusters ten goede komen. Zo hoopt Microsoft z’n GPU-servers efficiënter te benutten. Dergelijke servers werken voor complexe taken zoals AI-training samen als een soort cloud-supercomputers. Die samenwerking loopt gecoördineerd, onder andere via gedeeld geheugen. Netwerkcommunicatie daarrond is essentieel, maar verloopt doorgaans via de CPU. Dat is traag en belast de kostbare capaciteiten van de GPU-servers. Een eigen netwerkkaart kan zich exclusief ontfermen over de netwerkworkloads zodat die geoptimaliseerd worden, terwijl de processor ontlast wordt.
Omdat een dergelijke controller zich onafhankelijk van de CPU met netwerkverkeer bezighoudt, zijn er nog andere voordelen. Zo kan de netwerkkaart zelf dataverkeerd versleutelen, wat opnieuw de CPU ontlast. Al deze taken zijn mogelijk met de Nvidia ConnectX-7 en Microsoft wil met z’n eigen hardware vermoedelijk hetzelfde bereiken.
Microsoft bouwt verschillende datacenterchips zelf. Gezien de schaal van het bedrijf en de Azure Cloud kan dat arbeids- (en geld-)intensieve werk zijn vruchten afwerpen. Gezien de focus van Microsoft op AI is het logisch dat het bepaalde taken voor eigen rekening wil nemen. De ontwikkeling van een eigen netwerkkaart past zeker in dat plaatje.