Durf je zomaar te investeren in een dure nieuwe server? Of wil je het ding misschien eerst uitproberen? Nu GPU’s en andere accelerators aan belang winnen, is het belangrijk om te weten of jouw software er meerwaarde uithaalt voor je je portemonnee opentrekt.
Verschillende software heeft verschillende systeemvereisten. Denk daarbij niet alleen aan de hoeveelheid pk’s die een systeem nodig heeft om zich efficiënt van een taak te kwijten, maar ook de precieze samenstelling van de hardware zelf. x86-systemen delen dezelfde architectuur en kunnen in theorie overweg met dezelfde software. Dat betekent niet dat ieder systeem even geschikt is. Zeker nu accelerators zoals GPU’s, DPU’s en FPGA’s een plaatsje in de schijnwerpers hebben veroverd, is het belangrijk de juiste hardware te koppelen met de juiste software.
Die evenwichtsoefening is niet nieuw. Laten we accelerators even buiten beschouwing, dan zien we nog grote verschillen in de samenstelling van serverhardware. Wil je geheugencentrische applicaties draaien? Of haalt je toepassing veel voordeel uit snelle flash-opslag? We spraken eerder al met de IT-architect van het Nederlandse onderzoeksinstituut Nikhef. De berekeningen die belangrijk zijn voor dat instituut draaien het best op een single socket-systeem met veel rekenkernen, zoals een server met AMD Epyc-chip. Een dual socket-server van Intel heeft in theorie misschien meer rekenkracht, maar presteert in de praktijk slechter.
Onbekend is onbemind
Complexer wordt het wanneer je het nut van een accelerator moet beoordelen. Rekensystemen zijn vandaag niet meer exclusief CPU-centrisch. Hardware op maat van AI en machine learning vertrouwt op GPU’s om training en inferentie vlotter te doen verlopen. Die GPU’s zijn duur. NVIDIA’s A100 huisvest de rekenkracht van een bescheiden supercomputer in een enkele kaart, maar kost ongeveer 10.000 euro per stuk. Voor je daar als organisatie het geld voor bij elkaar spaart, weet je maar beter met zekerheid dat je software ook sneller zal draaien op een server gebouwd rond dergelijke A100-GPU’s.
NVIDIA’s A100 huisvest de rekenkracht van een bescheiden supercomputer in een enkele kaart,
“Het belang van GPU’s maar ook DPU’s groeit razendsnel”, zegt Kris Vaes, accountmanager bij S3S. “Het is niet eenvoudig om op de hoogte te blijven van alles. Er zijn veel mogelijkheden in combinatie met AI, maar die blijven veelal onbekend en onbemind door organisaties.” Hij geeft een voorbeeld: “De Universiteit van Gent gebruikte vroeger desktop-GPU’s voor hun GPU-workloads. Destijds besloten ze om toch te investeren en in te zetten op de NVIDIA V100. Werk dat anderhalve dag duurde, klaarde de V100 op enkele uren. De potentiële voordelen zijn groot, maar mensen zien ze niet altijd.”
Zelf uitproberen
Omdat het landschap zo snel evolueert, moeten potentiële kopers de voordelen van complexere systemen met accelerators kunnen proeven. Dat betekent testen, en liefst op een grondige manier. S3S heeft daarbij in samenwerking met Gigabyte een primeur in handen. De serverspecialist voorziet op eigen kosten testsystemen waar klanten en prospecten hun software dan op kunnen valideren of zelfs gewoon uitproberen. Zo ervaren ze uit eerste hand wat een systeem met accelerators voor hen kan betekenen. Met geoptimaliseerde software is de mogelijke tijdswinst en dus de return on investment van een investering absoluut de moeite. Gebruiken jouw toepassingen enkel CPU-rekenkracht? Dat weet je dat je voorlopig best nog naar een ander type server kijkt.
lees ook
Probeer voor je koopt: waarom S3S en Gigabyte klanten workloads laten uitproberen op dure servers
Het veelvoud aan software en de groeiende hardwarediversiteit maken het veel moeilijker om puur op papier de ROI van een investering in te schatten. Zelf uitproberen is dus de boodschap. Dat kan met een partner als S3S voor gespecialiseerde hardware, al kan je natuurlijk ook zelf investeren in een testsysteem of even naar de cloud kijken om meer standaardconfiguraties een kans te geven.
Dit is een redactionele bijdrage in samenwerking met Gigabyte en NVIDIA. Op 14 en 16 september organiseren S3S en Gigabyte samen met NVIDIA het gratis online NVIDIA A100 GPU Boot Camp. Wil je hier graag bij zijn en kans maken op een NVIDIA A10 GPU of heb je nog vragen over het S3S testplatform? Surf dan snel naar deze link.