Serverracks evolueren in razend tempo van enkele tientallen kilowatt naar een volledige megawatt per kast. HPE legt uit waarom die extreme densiteit geen doel op zich is, maar een fysieke noodzaak voor moderne AI- en HPC-workloads.
De vraag waarom een rack per se 400 kilowatt of meer moet verbruiken, krijgt HPE naar eigen zeggen voortdurend van klanten. Het antwoord is eenvoudig: nabijheid. Hoe dichter de rekenknooppunten en het netwerk bij elkaar zitten, hoe sneller het systeem als geheel presteert. Dat sluit naadloos aan bij het mantra van Cray-oprichter Seymour Cray. Hij benadrukte altijd dat niet de snelheid van de individuele componenten telt, maar de snelheid van het systeem.
Cray-systemen bereiken een lage latency en hoge prestaties door alles zeer dicht te koppelen en koperen interconnects te gebruiken in plaats van bijvoorbeeld InfiniBand. Dat houdt de kosten lager en de prestaties hoog. Hetzelfde principe zien we nu bij AI-configuraties zoals een Nvidia Vera Rubin NVL72, waar een all-to-all-topologie vereist dat de volgende generatie GPU’s van twee à drie kilowatt zo dicht mogelijk op elkaar zit.
Warmte moet ergens naartoe
Die dichte koppeling heeft een prijs. Wanneer je componenten zo strak tegen elkaar pakt, worden ze thermisch beperkt: het wordt almaar heter in steeds kleinere ruimte. Luchtkoeling wordt daardoor simpelweg onmogelijk, en vloeistofkoeling mag niet langer een bijgedachte zijn. Chipontwerpers moeten al bij het tekenen van de printplaat en de chip nadenken over hoe het geheel gekoeld zal worden, een fundamenteel andere ontwerpfilosofie dan vroeger, toen een willekeurige koellichaam de warmte wel afvoerde.
De grote vraag is waar de limiet ligt. Die kent niemand precies, want aan de horizon doemt al een rack van één megawatt op, meer dan het dubbele van de dichtste racks vandaag. Wat daarna komt, twee megawatt, vijf megawatt, hangt af van wat de chip nodig heeft. HPE benadrukt dat niemand een rack van vijf megawatt ontwerpt om het ontwerp zelf; er moet een concreet voordeel zijn in het zo dicht samenpakken.
Bovendien remmen de chipmakers zichzelf bewust af. Ze zouden volgens HPE technisch een GPU van vijf megawatt kunnen ontwerpen, maar dan heeft niemand op aarde de technologie om dat ding te koelen, en wie koopt dat dan? AMD, Nvidia en de serverbouwers werken allemaal met dezelfde leveranciers van CDU’s (Coolant Distribution Units) en manifolds.
Daardoor ontstaat steeds meer een gezamenlijk gesprek over de toeleveringsketen, waarbij iedereen vooraf weet waar de markt over twee jaar moet staan. Vroeger was een megawattrack een verrassing waar de hele keten achteraan moest hollen. Vandaag plant men die sprongen samen, net om te vermijden dat de hele keten niet kan volgen.
Stroom en koeling lopen gelijk op
Densiteit verhogen draait nooit om koeling alleen. HPE merkt op dat klanten doorgaans bij thermische problemen aankloppen. Van zodra je een rack van 80 kilowatt aanbiedt, blijkt diezelfde klant dat vermogen vaak niet eens geleverd te krijgen.
Stroom en koeling moeten in hetzelfde tempo meegroeien. Een extreem tekort aan een van beide blokkeert sowieso de vooruitgang. Daarom is de race naar de megawattkast evenzeer een verhaal over stroomvoorziening, met de overstap naar 800 volt gelijkstroom als een van de volgende grote infrastructuuringrepen.