Met Nvidia Grace introduceert de fabrikant een eigen CPU en wil daarmee rechtstreeks concurreren met Intel en AMD. Wat bezielt de GPU-specialist om ten strijde te trekken tegen zijn belangrijkste partners?
Nvidia Grace: zo heet de nieuwste chip van grafische kaartspecialist Nvidia. Het bedrijf van CEO Jensen Huang kondigde de chip aan tijdens de digitale GPU Technology Conference, waarvan de naam stilaan gedateerd raakt. Nvidia ontpopt zich immers in sneltempo van GPU-nichespeler naar een wereldwijde chipgigant die niet wil onderdoen voor AMD of zelfs Intel.
Grace, genoemd naar de Amerikaanse computerwetenschapper Grace Hopper, is misschien wel één van de belangrijkste chips van de laatste decennia. Niet omdat de CPU binnenkort alomtegenwoordig zal zijn, integendeel. Grace is een absoluut nicheproduct op maat van datacenterservers die met HPC-workloads geconfronteerd worden en volwaardige supercomputers. Het is wel één van de belangrijkste chips omdat de processor de voorbode is van een stevige verschuiving in de machtsverhoudingen van ’s werelds belangrijkste chipdesigners.
x86: voorlopig dominant
Laptop, desktop of server: vandaag is de x86-architectuur dominant. Binnen x86 is Intel net geen monopolist, met dank aan AMD. Die bokst boven zijn gewicht met de AMD Ryzen en AMD Epyc-chips die respectievelijk Intel Core en Intel Xeon uitdagen. De alomtegenwoordigheid van x86 is in computerland al een eeuwigheid een feit. De 32-bitsversie van de chiparchitectuur gaat al sinds 1985 mee en zorgde er uiteindelijk voor dat Intel zich kon ontpoppen tot de reus die we vandaag kennen. Decennialang stelde niemand x86 in vraag.
lees ook
AMD Epyc 7003-reeks: meer pk’s voor minder geld
Nvidia’s Grace-professor luidt het einde van een tijdperk in. De chip is niet gebaseerd op x86 maar op ARM. Die concurrerende architectuur werd groot in smartphones en tablets, maar is al geruime tijd aan een opmars bezig. Apple voorziet zijn nieuwe MacBooks intussen van ARM-chips die het zelf ontwikkelde en AWS toont met Graviton en Graviton 2 dat ARM ook in het datacenter een plaats heeft. Beide ontwikkelingen bedreigen de hegemonie van x86, maar niet noodzakelijk van koning Intel. Noch AWS, noch Apple hebben immers de ambitie om de wereld van chips te voorzien.
Kaper op de kust
Nvidia heeft die ambitie wel. Met Grace toont de chipdesigner dat het geen genoegen neemt met de markt van GPU’s en accelerators: Nvidia wil alomtegenwoordig worden. De licentie voor de ARM-architectuur ligt bij het gelijknamige Arm en dat bedrijf wordt behoudens tegenkanting van mededingingsautoriteiten binnenkort eigendom van Nvidia zelf. De Amerikanen telden daar 40 miljard dollar voor neer in 2020.
Nvidia wil alomtegenwoordig worden.
Grace kan je zo zien als een chip die op en top uit Nvidia’s eigen stal komt. Details over het binnenwerk kennen we niet, maar de processor is naar alle waarschijnlijkheid gebaseerd op een toekomstige versie van Arm Neoverse genaamd Zeus. Zeus is een ARM-gebaseerd chipdesign voor servers en HPC-toepassingen. Hoewel de processor naar alle waarschijnlijkheid een krachtpatser wordt, ligt daar niet de sterkte van Grace.
1+1+3
Nvidia ontwikkelde de CPU als kloppend hart voor zijn eigen hardware-ecosysteem. De chip werkt de flessenhals tussen geheugen, accelerator en processor weg met dank aan de Nvidia NVLink interconnect. Die voorziet een verbinding van 900 GB/s tussen CPU en GPU.
Het ingebouwde LPDDR5x-geheugensubsysteem moet dan weer dubbel zoveel bandbreedte bieden dan klassiek DDR4-geheugen en zal bovendien een stuk efficiënter zijn. Dat laatste mag je niet onderschatten: de economische en ecologische impact van koeling en stroomverbruik binnen een datacenter of HPC-installatie is enorm. Zo test bijvoorbeeld Microsoft de koeling van servers in kokende niet-geleidende vloeistof om energie te besparen.
Via cache coherence brengt Nvidia de drie belangrijkste componenten veel dichter bij elkaar.
Tot slot voorziet Nvidia cache coherence binnen zijn nieuwe architectuur. Die verenigt het systeemgeheugen en het GPU-geheugen, LPDDR5x en HBM, wanneer Grace gecombineerd wordt met een high end Nvidia-accelerator zoals de A100. In een traditionele architectuur met bijvoorbeeld een GPU van Nvidia en x86-processor van Intel bestaat die eenheid van geheugen niet. RAM en GPU functioneren in dat scenario relatief los van elkaar, met de processor als ontmoetingspunt en coördinator. Via cache coherence brengt Nvidia de drie belangrijke componenten veel dichter bij elkaar. Er hoeft minder data heen en weer geschipperd te worden tussen de verschillende componenten en dat verbetert de efficiëntie.
Iedereen wil een tandem
Nieuw is dat idee niet. AMD past het zelf ook toe met zijn AMD Epyc-processors en Radeon Instinct-GPU’s. De efficiënte tandem tussen processor en accelerator zorgt voor hogere HPC-prestaties en dat leverde AMD enkele interessante contracten op. Zo zal het bedrijf de Amerikaanse Frontier-exascale-computer bouwen met die architectuur. AMD heeft als eerste de enorme voordelen ingezien van een CPU en een GPU die nauwer samenwerken en is op dit moment nog de enige partij die een dergelijke architectuur kan aanbieden.
Nvidia begrijpt de kracht van de tandem. Het bedrijf maakt de krachtigste accelerators ter wereld, maar bouwde in tegenstelling tot AMD geen processors. Het kon dus geen CPU en GPU naast elkaar ontwikkelen om de interconnectiviteit te optimaliseren. Met Grace krijgt Nvidia die mogelijkheid plots wel.
Het bedrijf gaat zelfs een stapje verder en betrekt een derde type van chip bij het feest: de DPU. Ook tijdens GTC 2021 introduceerde Nvidia met BlueField-3 en BlueField-4 twee chips gespecialiseerd in netwerk, opslag en beveiliging. De chip is geoptimaliseerd voor dergelijke taken en ontlast de CPU, die zo alle rekenkracht kan inzetten om nuttige toepassingen te draaien. Met CPU, GPU en DPU in de hand heeft Nvidia drie componenten die samen meer waard zijn dan de som van de individuele componenten.
Vrij van de concurrentie
Het aanbod spreekt tot de verbeelding. Vandaag verpakt Nvidia al extreem krachtige en compacte AI-supercomputers in zijn DGX-systemen, maar daarvoor is het afhankelijk van een processorbouwer, in casu AMD. Wanneer Nvidia Grace in 2023 in het wild verschijnt, verdwijnt niet alleen die afhankelijkheid. Op papier zal het eindresultaat bovendien een stuk krachtiger zijn. Met Arm onder de arm en een reeks van processors geoptimaliseerd voor gebruik met de eigen accelerators heeft Nvidia voor het eerst geen nood meer aan Intel of AMD.
lees ook
Datacenters en neurale netwerken: waarom Intel plots zelf grafische kaarten ontwikkelt
Bij Intel is het alle hens aan dek. Het bedrijf werkt aan een eigen tandem met zelf ontwikkelde grafische capaciteiten op basis van de Xe-architectuur (Ponte Vecchio) en nieuwe Xeon-processors die daar optimaal mee samenwerken (Sapphire Rapids). Beide zijn al aangekondigd, maar bestaan momenteel nog niet.
Uitdager met totale controle
Nvidia Grace maakt een einde aan de vanzelfsprekendheid van x86 in het algemeen en Intel specifiek. De chipreus bevrijdt zich van de afhankelijkheid van zijn concurrenten en toont aan dat x86 geen must is voor topprestaties. Door de controle over de CPU in handen te nemen, kan Nvidia zijn krachtige accelerators zoals de A100 en opvolgers optimaal laten schitteren.
Huang en de zijnen hoeven de markt bovendien niet meer de overtuigen van hun waarde. De accelerators en GPU’s van Nvidia behoren tot de absolute wereldtop en vind je vandaag al in de krachtigste workstations, servers en supercomputers. Nvidia bouwt bovendien zelf de nodige softwareraamwerken zodat ontwikkelaars vlot aan de slag kunnen met de eigen hardware.
Koning, maar van wat?
In de nabije toekomst mag Intel zich misschien nog steeds x86-koning noemen, maar Nvidia stelt in vraag of die titel überhaupt zoveel voorstelt. Het positioneert zich als gelijke naast Intel en ook AMD in het serversegment. De hele chipmarkt consolideert langzaamaan bij deze drie spelers, die synergie tussen eigen hardware steeds meer als troef naar voren zullen schuiven. Dat is onbekend terrein voor Intel, dat zich plots vol op GPU’s moet focussen om op de lange termijn relevant te blijven.
Nvidia van zijn kant kan verder doen waar het goed in is. Met Grace katapulteert het bedrijf zich erelid van een nieuw en select clubje van chipgiganten. Zonder de processor zou Nvidia afhankelijk blijven van AMD en Intel. Die laatste was lang een partner, maar wordt met de eigen Xe-GPU-reeks een concurrent zoals AMD dat al sinds jaar en dag is. Met Grace heeft Nvidia een ongelooflijk sterke uitgangspositie waar het voor de toekomst op kan bouwen.