De nieuwste generatie van flagship-GPU’s van Nvidia staan klaar. De H200 Hopper en de GH200 moeten de ontwikkeling van AI nog een versnelling hoger doen schakelen.
Nvidia kondigt vandaag nieuwe GPU’s aan. Dat zijn niet de eerste de beste, want de H200 en GH200 worden in één klap het nieuwe speerpunt van het Nvidia-portfolio. De H200 GPU is op de Hopper-architectuur gebouwd, wat het dus een opgepimpte versie van het huidige paradepaardje (en geldkoe) H100 maakt. Met nieuwe GPU’s wil Nvidia volgend jaar een ‘stroomstoot’ door de ontwikkeling van artificiële intelligentie jagen.
De belangrijkste upgrade zit in het geheugen van de H200 Hopper. Dit is de eerste GPU van de fabrikant die sneller HBM3e-geheugen integreert. De H200 Hopper kan hiermee 141 GB geheugen leveren aan 4,8 terabyte per seconde; bijna dubbele capaciteit en 2,4 keer de bandbreedte dan wat de voorganger H100 leverde. De GPU zal in twee configuraties verschijnen: een achtledige configuratie levert je 32 petaflops FP8 en 1,1 TB geaggregeerd geheugen.
Met HBM3e-geheugen is de H200 Hopper ook beter in staat om de steeds complexer wordende AI-modellen te ondersteunen. Nvidia haalt hier als voorbeeld Meta’s LLaMA 2 aan, een model dat 70 miljard parameters telt. De H200 haalt op dit model een dubbele inferentiesnelheid dan zijn voorganger, schrijft de fabrikant vol trots in het persbericht.
Superchip
Daarnaast lanceert Nvidia vandaag ook een opvolger van zijn Grace Hopper ‘superchip’, de GH200. Die combineert een CPU en een GPU in één socket en is ontwikkeld voor supercomputers. De GH200 levert voor tweehonderd exaflops aan rekenkracht om complexe, wetenschappelijke problemen op te lossen.
Onder meer HPE kondigde al een nieuwe Cray-supercomputer met vier GH200-chips aan boord. De meest complexe machine die de nieuwe telg van Nvidia zal bevatten is Jupiter, de eerste Europese exascale-computer die in de loop vanaf volgend jaar in gebruik zal worden genomen. Op de eerste verschijningen met de Nvidia H200 is het wellicht wachten tot het einde van 2024.
lees ook
Nvidia bouwt nieuwe GPU’s voor China ondanks restricties
De H200 en GH200 zijn wellicht ook de laatste chip die de merknaam Hopper mogen dragen. Vanaf volgend jaar vernoemt Nvidia zijn flagshio-CPU’s naar de Amerikaans statisticus en wiskundige David Harold Blackwell. De B100 zal de eerste chip binnen die nieuwe generatie zijn en wordt volgend jaar verwacht.