In MLPerf-benchmarktests van MLCommons breekt de Nvidia Hopper H100 alle records. Ook de oudere A100 toont zich nochtans frisser dan ooit.
MLCommons deelt de resultaten van zijn MLPerf Inference v2.1-tests. Daarin onderzoekt de organisatie de prestaties op het vlak van inferentie oftewel de toepassing van een eerder getraind machine learning-model op nieuwe data.
Sneller dan ooit
Nvidia is steevast de grote kampioen van dergelijke tests, en dat is deze keer niet anders. Vooral de nieuwe Hopper H100-GPU domineert de resultaten. Die kondigde Nvidia in maart aan en is binnenkort beschikbaar.
De cijfers tonen aan dat de H100 zo’n 4,5 keer beter presteert dan de A100, die vandaag nog steeds bekend staat als een absolute krachtpatser. De nieuwe accelerator verbetert de prestaties in alle testsituaties. Deze eerste onafhankelijke resultaten tonen aan dat Nvidia zijn leiderspositie nog niet meteen kwijt is.
Softwareboost
Het onderzoek geeft ook inkijk in het belang van een goed softwareplatform. Zo ging de A100 er sinds de lancering in 2020 alleen maar op vooruit. Voor de MLPerf-tests zijn de cijfers zelfs zes keer beter dan bij de introductie van de chip.
Nvidia zelf is weinig verrassend een grote winnaar van de MLPerf-tests, waar het steevast goed uitkomt. De benchmarks bieden een redelijk objectieve kijk in prestaties, maar bevoordelen volgens critici hardware van de fabrikant. Zo overwegen de benchmark-experts van SPEC, waarvan wij de workstation-tests gebruiken voor onze reviews, om een eigen alternatief te ontwikkelen.