Denk bij AI niet alleen aan grote fabrieken, maar ook aan clusters op maat van bedrijven. Om die een plaats te geven, lopen datacenteroperatoren een race om voldoende geschikte vloerruimte en capaciteit te voorzien. Nieuwe technologie zorgt echter voor nieuwe uitdagingen.
AI behoort niet toe aan hyperscalers alleen. De grote AI-fabrieken van partijen als Microsoft, Meta en Tesla vertegenwoordigen maar één kant van het verhaal. Ook enterprise-klanten overwegen meer en meer om hun eigen AI-infrastructuur te plaatsen. Dat brengt nieuwe uitdagingen en nieuwe verwachtingen met zich mee, en niet alleen omwille van de groeiende dichtheid van AI-hardware.
Nieuwe uitdagingen
Als Europese colocatiedatacenteroperator moet Penta Infra daaraan het hoofd bieden. Harmen Laan, Head of Engineering bij Penta Infra, ziet een duidelijke evolutie doorheen de jaren. “Penta Infra is destijds begonnen met relatief kleine datacenters”, vertelt hij. “We praten over 700 kilowatt tot een megawatt. Inmiddels kijken we naar ontwerpen voor datacenters tussen 10 en 20 megawatt. Dat is een behoorlijke sprong in vermogen.”
Die groei loopt gelijk met de markt, die van vrij conventioneel evolueert naar een hogere dichtheid, wat een vraag naar vloeistofkoeling met zich meebrengt.
Van verkenning naar concrete vraag
Daarover wordt al enige tijd gepraat, maar de laatste jaren concretiseert de vraag. In de Benelux was de Sofia-supercomputer van de Vrije Universiteit Brussel (VUB) één van de eerste klanten voor Penta Infra met een concrete toepassing. “Als je naar de markt kijkt, zagen we initieel dat frontier AI werd ingezet in onderzoeksinstellingen of hele specifieke performance compute-organisaties. We zien nu dat AI steeds meer en concreter buiten de traditionele kaders wordt gebruikt, zoals met Neoclouds en GPU-as-a-Service”, legt Laan uit.
Ook bestaande klanten polsen al een tijdje naar de capaciteiten van de datacenterspecialist om aanvragen rond AI-gerelateerde projecten te verwerken. Die voorzichtige verkenning is de voorbije twee jaar omgeslagen naar concrete opdrachten. Maar: “HPC/AI -aanvragen komen ook steeds meer vanuit eindgebruikers met kleinere deployments. Het zijn dus niet alleen bestaande klanten die erom vragen.”
“Eerst hoorden we: we willen liquid cooling, zonder dat daar specifieke details bij hoorden. Bij het beantwoorden van de vraag was het vaak duidelijk dat de toepassing en de omvang nog niet concreet waren en evenmin welke voorzieningen hiervoor getroffen moesten worden”, aldus Laan, die dergelijke vragen als verkennend klasseert. “Nu heb je veel concretere aanvragen die ook leiden tot opdrachten.”
Naast grote partijen die de markt verkennen, ziet Laan steeds meer start-ups en nieuwe bedrijven die snel op zoek zijn naar vermogen en capaciteit voor hun AI-omgevingen. De schaarste is intussen zo groot dat de zoektocht ook op sociale media zichtbaar wordt. “Er worden nu zelfs posts geplaatst op LinkedIn van partijen die op zoek zijn naar vermogen. Dat heb ik nog niet eerder gezien”, klinkt het. Wie erin geslaagd is schaarse AI-hardware in handen te krijgen, wil die snel kunnen inzetten, want de apparatuur is duur en schrijft snel af.
Snelheid en capaciteit troef
Die haast verklaart meteen waarom time to market zo cruciaal is in de datacenterindustrie. “Als een klant met een vraag komt, moet je snel kunnen schakelen”, beseft Laan. En waar een AI- of HPC-klant eerder 350 of 700 kilowatt nodig had, wordt nu al snel één tot twee megawatt gevraagd.
Om die vraag te kunnen bedienen zonder maandenlange wachttijd, zet Penta Infra actief in op het uitbouwen van zijn portfolio van Europese colocatiedatacenters. Voor een datacenteroperator is het dus zaak de capaciteit te voorzien voordat de vraag effectief binnenkomt.
De impact van AI op het datacenter
Dat is niet vanzelfsprekend. AI-infrastructuur past immers niet in ieder datacenter. Laan stipt twee bouwkundige aspecten aan: vrije hoogte en vloerlast. “AI-machines hebben een hoge dichtheid van componenten en zijn zwaar”, legt hij uit. Dat geldt zelfs voor systemen die met traditionele luchtkoeling werken.
AI-machines hebben een hoge dichtheid van componenten en zijn zwaar.
Harmen Laan, Head of Engineering Penta Infra
Voor meer geavanceerde hardware is soms vloeistofkoeling nodig. Daar moet het datacenter helemaal op voorzien worden. Er zijn complexere waterleidingen nodig, en er moeten zwaardere voorzieningen zijn voor apparatuur boven de racks. “Zowel onder als boven de racks moet je best wel veel vrije ruimte hebben om al die techniek te kunnen huisvesten”, weet Laan.
De ene koelinstallatie is bovendien de andere niet. De infrastructuur achter vloeistofkoeling is nog niet gestandaardiseerd. “Er bestaan richtlijnen van ASHRAE en OCP, maar de interface tussen gebouw en rack is nog niet eenduidig vastgelegd. Daardoor is het nog veel maatwerk”, aldus Laan.
Hij ziet in de praktijk veel maatwerk in de serverzaal zelf: het leidingwerk onder de vloer, de stroomtechnische aansluiting en het gebouwmanagementsysteem moeten stuk voor stuk specifiek worden afgestemd. Een detail zoals de plaats waar de koudwaterleidingen in de zaal naar boven komen, kan al een struikelblok zijn.
Brownfield of greenfield
Niet elk datacenter is daarom geschikt voor de meest moderne workloads. Penta Infra groeide deels door de overname van bestaande datacenters, die gebouwd zijn voor een vorige generatie IT-workloads. Die moeten nu gemoderniseerd worden om de toekomstige generatie van IT-workloads te ondersteunen.
“Het is in de praktijk zo dat wij AI mogelijk kunnen maken zelfs met de beperkingen van brownfield datacenters”, geeft Laan wel aan.
Vandaag hanteert Penta Infra een mix van renovatie en nieuwbouw. Bij nieuwe projecten wordt het datacenter steeds volgens de recentste standaarden ingericht om AI te ondersteunen.
Bij renovaties kunnen bepaalde ruimtes omgebouwd worden voor AI-workloads, maar vaak met enkele beperkingen. “Ook in bestaande gebouwen kunnen we AI-ruimtes realiseren. Dat vraagt wat meer maatwerk, maar het kan prima”, verduidelijkt Laan. Conversie van een oude site kan dus, zolang de vloerlast, de vrije hoogte en de technische installatie het toelaten.
AI: een rekbaar begrip
Of een datacenter geschikt is voor AI, hangt niet alleen van de site af maar ook van wat de klant onder AI verstaat. De grote AI-fabrieken met hun hypermoderne Nvidia-hardware zijn niet de regel, maar de uitzondering.
“Veel mensen vergeten dat er een heel groot gebied zit tussen AI-fabrieken enerzijds, en wat klanten in de praktijk wensen anderzijds”, benadrukt Laan. Waar de hyperscalers mikken op het allernieuwste, kiezen enterprise-klanten vooral op basis van beschikbaarheid en snelheid van uitrol. Ook de schaal is anders. Dat betekent dat luchtgekoelde oplossingen het in de praktijk in sommige gevallen halen van waterkoeling. Ook luchtgekoelde servers passen echter niet zomaar in ieder datacenter.
Veel mensen vergeten dat er een heel groot gebied zit tussen AI-fabrieken enerzijds, en wat klanten in de praktijk wensen anderzijds.
Harmen Laan, Head of Engineering Penta Infra
Waar een traditionele opstelling gemiddeld 5 tot 10 kW per rack telt en daar 40 tot 60 procent van benut, draaien in AI-systemen al de chips parallel op volle kracht. Laan: “Een datacenter had vroeger een stabiele last over tijd. Met AI valt die stabiliteit weg. Als een AI-systeem wakker schiet om bijvoorbeeld te trainen, werkt het plots op volle kracht.” Datacenters en koelinstallaties moeten nu dus om kunnen met die pieken.
Integratie als sleutel
De grootste verandering die AI met zich meebrengt, zit volgens Laan in de manier van werken. “Een conventioneel rack is plug-and-play”, verduidelijkt hij. Dat is anders bij AI, en al zeker met vloeistofkoeling. “Vloeistofkoeling vraagt een interface met de technische installatie van het datacenter. Dat dwingt tot samenwerking over meerdere partijen heen: de chipleverancier, de systeembouwers zoals Dell, HPE, Supermicro en Lenovo, de integrator en de klant. Dat stukje integratie en integraal ontwerp is iets waar wij ons in hebben verdiept.”
Die manier van werken kan nog een struikelblok vormen. “Wij raden klanten aan ons vroeg te betrekken, liefst al vóór de aankoop van hun systemen”, vertelt Laan. “De sleutel tot succes zit in integraal denken, samen met de datacenteroperator, de klant en de integrator.” Op termijn verwacht Laan wel dat er een vorm van standaardisering zal komen.
Capaciteit, flexibiliteit en soevereiniteit
Wat drijft organisaties ertoe hun AI-clusters bij een operator als Penta Infra te plaatsen? Penta Infra ziet de Europese markt vooral evolueren naar de lokale consumptie van AI, niet de training van modellen op het niveau van OpenAI. “In Europa krijg je centrale AI-fabrieken, hetzij Amerikaans, hetzij Europees, en daarnaast lokaal opgebouwde clusters in datacenters zoals die van ons”, verwacht Laan.
Daarbij komt het thema soevereiniteit steeds nadrukkelijker in beeld: klanten die een colocatie zoeken die onder Europese jurisdictie valt, zeker omdat ook AI-workloads gevoelige data verwerken. “Penta Infra is helemaal in Europese handen”, benadrukt Laan.
Ook onderhoud wordt een aandachtspunt. AI-systemen zijn onderhoudsintensief, waarbij servers met GPU’s er regelmatig uit moeten om onderhouden te worden. “Er zal in de komende jaren meer focus komen op onderhoudsfaciliteiten on site”, besluit Laan. De systemen worden nu uitgerold, de komende jaren moeten ze vooral ook draaien.
