Heeft de multi socket-server afgedaan?

Multi socket-servers met meerdere CPU’s op één moederbord waren ooit de standaard voor krachtige systemen. Vandaag lijkt het nut ervan stilaan verdwenen. Is de toekomst aan de single socket-servers?

De dual socket-server ligt op intensieve zorgen. AMD gaf het buikschot dat voor de opname zorgde, maar multi socket-systemen zijn eigenlijk al lang ziek. Wat is de prognose en hoe is er zover kunnen komen?

Resources delen

Multi socket-systemen waren lang de norm voor enterprise-servers. Een multi socket-systeem heeft doorgaans twee maar soms ook vier CPU’s op één moederbord. De servers combineren de rekenkracht van verschillende processors met andere gedeelde systeembronnen zoals geheugen en accelerators. Aanvankelijk was een processor een chip met één rekenkern. Door twee tot vier kernen op één moederbord te laten samenwerken, kon een server zich eenvoudiger van geavanceerde taken kwijten.

De servers combineren de rekenkracht van verschillende CPU’s met andere gedeelde systeembronnen zoals geheugen en accelerators.

Niet enkel verbeterde prestaties gaven de aanzet om meerdere CPU’s op één moederbord te combineren. Er was ook een economische incentive. De capaciteit van verschillende componenten op het moederbord, zoals de Northbridge (geheugencontroller) en Southbridge (I/O-controller) die connecties naar RAM, PCIe en opslag faciliteerden, was hoger dan wat een enkele CPU vereiste. Hetzelfde gold voor andere componenten in de server zoals de PSU. Met een relatief beperkt wattage per CPU kon een enkele PSU zonder al te veel moeite meerdere processors van de nodige stroom voorzien. Een configuratie met meerdere CPU’s benutte al die componenten maximaal.

Van efficiënte aanpak naar nieuwe flessenhals

Processortechnologie evolueerde echter. De kritieke Northbridge is geen afzonderlijk chipset-component meer, maar zit geïntegreerd in de CPU. Processors zelf werden ook sneller en kregen meerdere rekenkernen. Waar meerdere CPU’s op één moederbord destijds voor een schaalvoordeel zorgden, flirten ze nu met de limieten van componenten en connectoren op het moederbord. De CPU is niet meer de flessenhals.

Intel heeft multi socket-systemen echter lang in leven gehouden door het maximale aantal rekenkernen op zijn Xeon-chips te beperken. Zolang een individuele chip onder een bepaald prestatieniveau bleef, was het immers nog wel interessant om meerdere CPU’s in een multi socket-systeem te duwen.

Daar konden moederbord- en serverfabrikanten net als Intel zelf bovendien een mooie premium voor aanrekenen, om maar te zwijgen van het feit dat je twee geavanceerde CPU’s moet kopen. Met Intel als de facto monopolist was er vanuit de aanbodzijde geen druk om de zaken door elkaar te schudden.

AMD schudt de kaarten door elkaar

Dat veranderde met de comeback van AMD. De fabrikant, kleingemaakt door Intel aan het begin van de jaren 2000, speelde lang geen relevante rol in het serverlandschap. In 2017 was er een sterke comeback onder de noemer AMD Epyc. Die concurrent voor Intel Xeon was gebaseerd op een splinternieuwe architectuur, werd gebakken in TSMC’s meest geavanceerde chipfabrieken, en gaf Intel een pandoering wanneer het op prijs-kwaliteitsverhouding aankwam.

AMD koos met zijn Zen-architectuur voor een bouwplan gebaseerd op relatief eenvoudig te combineren CPU-chiplets, verbonden via een eigen interconnect. Die aanpak laat AMD tot vandaag toe om CPU’s te maken met een enorme hoeveelheid rekenkernen.

Een enkele AMD Epyc-chip komt vandaag met maximaal 64 rekenkernen, goed voor 128 threads. Ondanks die enorme hoeveelheid rekenkernen kan de chip een maximale kloksnelheid van 3,675 GHz halen.

Aan kernen geen gebrek

Ter vergelijking: tijdens de lancering van Epyc in 2017 pakte AMD uit met een 32 core-chip, terwijl Intel Xeon Scalable piekte op 28 kernen. Dat was op zich een flinke sprong voor Intel. De jaren voordien hadden de topmodellen van de Intel Xeon E7-reeks immers maar 15 tot 18 kernen. Intussen moest Intel noodgedwongen bijschakelen. De derde generatie van Xeon Scalable piekt op 40 rekenkernen, maar de Intel Xeon Platinum 9282 Processor van een generatie eerder heeft er uitzonderlijk 56.

AMD plant intussen nieuwe chips met 96 en zelfs 128 kernen. Anders gezegd: binnenkort krijg je ongeveer evenveel rekenkracht uit één AMD Epyc-chip dan wat zeven Xeon E7-chips in 2016 konden leveren. 128 krachtige rekenkernen voederen, vereist een stevige machine met supersnel geheugen. Andere componenten worden de flessenhals, dus waarom zou je nog meerdere CPU’s in één server combineren.

De markt evolueert mee

Dat is geen nieuw inzicht. Helemaal aan de bovenkant van het IT-spectrum vormen ’s werelds krachtigste servernodes HPC-systemen (High Performance Computing). De geplande Frontier en El Capitan-supercomputers zullen in de VS voor het eerst de exaflops-barrière van rekenkracht doorbreken. Onder de motorkap draaien chips van AMD Epyc. In één servernode zitten vier GPU’s, gekoppeld aan een enkele AMD-chip in een single socket-configuratie.

Cloudreuzen, die er steeds naar streven om hun infrastructuur te optimaliseren, zetten dezelfde stappen. Enerzijds is er AWS dat steeds meer op eigen ARM-gebaseerde Graviton-chips als CPU vertrouwt. Die processors draaien opnieuw in single socket-configuraties. Anderzijds winnen single socket AMD-instances aan belang als alternatief voor Intel-equivalenten. Het significante prijsvoordeel spreekt vele klanten aan.

Bij marktanalysebureau IDC zien ze die trend doorsijpelen naar het bredere serverlandschap. “Technologische ontwikkelingen in servertechnologie hebben single socket-servers van enterprise-niveau voortgebracht”, klinkt het. Die verbeteren de flexibiliteit en efficiëntie van het datacenter. Door single socket-servers voor bepaalde workloads te omarmen, kunnen IT-klanten besparingen verwezenlijken die in dual socket-architecturen onmogelijk waren.”

Van de norm naar de rand

Daarmee heeft de dual socket-server nog niet finaal afgedaan. Al naargelang de workload zijn er soms voordelen aan een architectuur met twee kleinere chips in de plaats van één grote. Over het algemeen lijken de gloriedagen van de multi socket-chip echter voorbij. De trend van CPU’s met monsterlijk veel kernen zet niet aan tot een heropleving. AMD speelt de single socket-troefkaart maar al te graag uit en zal voorlopig blijven werken aan krachtigere chips die multi socket-configuraties tot een nicheproduct herleiden.

Over het algemeen lijken de gloriedagen van de multi socket-chip voorbij.

Over het algemeen is het tijdperk van de multi socket-configuratie als standaard voor prestatiegerichte servers dus stilaan ten einde. Steeds meer kernen zijn aan steeds scherpere prijzen beschikbaar voor steeds meer organisaties, terwijl ook HPC- en cloudspecialisten aan de bovenkant van het spectrum voor single socket-oplossingen kiezen. Intel moet van zijn kant meestappen in de strategie van AMD of riskeert op termijn uit de markt geprijsd te worden. Daarom is de dual socket-server niet morsdood, maar wel minder relevant dan ooit.