Met Helios levert AMD voor het eerst een volledig eigen rackscale AI-systeem: 72 Instinct MI455X-GPU’s, Epyc Venice-processors, Pensando-netwerktechnologie en de ROCm-stack in één geïntegreerd geheel. De ambitie is niet bescheiden: het krachtigste AI-rack ter wereld bouwen, op basis van open standaarden.
“Onze poolster met Helios was een systeem bouwen dat de volledige capaciteit van onze compute benut, in een open rackarchitectuur met open standaarden, en dat de lat hoger legt op vlak van efficiëntie, onderhoudbaarheid en betrouwbaarheid. Dat was de missie van het team.”
Zo vat Andrew Dieckmann, corporate VP en GM Data Center GPU, de opdracht samen die AMD zichzelf ruim een jaar geleden gaf. Op Advancing AI 2026 is het zover: Helios wordt officieel gelanceerd en is vandaag in productie.
Waarom een rack?
Traditionele AI-racks zijn eigenlijk stapels afzonderlijke GPU-servers die via een scale-out netwerk met elkaar praten, met meerdere netwerkhops, latency en congestie tot gevolg. Helios breekt met dat model: het volledige rack gedraagt zich als één systeem. “Het rack wordt de nieuwe systeemgrens”, zegt Mark Chubb, corporate VP Platform Architecture, die overkwam van rackbouwer ZT Systems.
Alle 72 GPU’s delen 31 TB HBM4-geheugen dat via één enkele switch-hop bereikbaar is, met 260 TB/s aan scale-up bandbreedte. Elke GPU praat met elke andere GPU aan identieke snelheid, waar die ook in het rack zit, zodat software zich niets van topologie hoeft aan te trekken.
De cijfers van het geheel zijn duizelingwekkend: 2,9 exaflops FP4-compute en 1,4 exaflops FP8 per rack, 1,7 petabyte per seconde geheugenbandbreedte en 43 TB/s scale-out bandbreedte naar de rest van het datacenter.
Achttien compute trays, zes switch trays
Fysiek is Helios een dubbelbreed ORW-rack (Open Rack Wide, ontwikkeld met Meta) van 1,2 bij 1,3 meter en 44OU hoog. Daarin schuiven achttien compute trays en zes switch trays, achteraan verbonden via vier verwisselbare cassettes met volledig koperen bekabeling.
Elke compute tray van amper 10U bevat vier vloeistofgekoelde Instinct MI455X-GPU’s en één Epyc Venice SP7-processor die via coherente Infinity Fabric-verbindingen aan 256 GB/s per GPU rechtstreeks deelneemt aan het geheugendomein. Zo’n tray weegt ongeveer 77 kilogram en telt 576 differentiële verbindingen: er is 120 kilogram kracht nodig om hem in te schuiven.
De switch tray doet er nog een schep bovenop: 1.728 verbindingen en 310 kilogram duwkracht, vandaar de opvallend lange hendels die als hefboom dienen. Binnenin zitten telkens twee Broadcom Tomahawk 6-switch-ASIC’s. Twaalf switch-ASIC’s verbinden zo alle GPU’s in een single-hop, multi-plane fabric op basis van UALink over Ethernet (UALoE). Opvallend: alles blijft in-rack onderhoudbaar. Trays schuiven volledig uit voor het vervangen van DIMM’s of kaarten, zonder serverlift of crash cart.
Pensando bindt alles samen
Het netwerk is geen bijzaak maar een cruciaal onderdeel van Helios, en daar komt AMD’s Pensando-divisie in beeld. “AI schaalt aan de snelheid van datatransport”, stelt Krishna Doddapaneni, corporate VP Pensando. Drie netwerken werken samen.
Vooraan verzorgt de Pensando Salina 400-DPU het front-end netwerk: een programmeerbare kaart die netwerkvirtualisatie, firewalling, encryptie en NVMe-opslagdiensten van de CPU wegneemt, inclusief een key-value-interface voor het steeds belangrijkere KV-cache-verkeer van AI-modellen. Het scale-up netwerk verbindt de 72 GPU’s via UALoE tot dat ene logische geheugendomein.
En voor scale-out naar duizenden GPU’s levert elke GPU plaats aan drie Pensando Vulcano 800G AI-NIC’s, samen goed voor 2,4 terabit per seconde per GPU. De programmeerbare Vulcano ondersteunt naast standaard RoCE ook nieuwe transportprotocollen zoals MRC, dat AMD samen met OpenAI uitwerkte.
Ontworpen om te falen
Bij een systeem van deze schaal zijn defecten geen risico maar een zekerheid, en dus is Helios rond falen ontworpen. Crasht een switch of moet een switch tray vervangen worden? Geen ramp: het verkeer wordt automatisch omgeleid en de trainingsjob loopt door met tijdelijk iets minder bandbreedte, in plaats van te sneuvelen.
Ook het beheer is redundant opgezet: de AMD Fabric Manager draait in drievoud op de rekenkracht van de switch trays zelf, zodat zelfs het uitvallen van een beheerinstantie de fabric niet raakt. Via virtuele pods kan een operator het rack bovendien opdelen in geïsoleerde deelclusters per tenant: crasht één pod, dan merken de andere daar niets van. De netwerkbesturing draait op het opensource SONiC, en alles wat AMD toevoegt, wordt ge-upstreamd.
Klanten staan in de rij
De sterkste graadmeter zijn de klanten. OpenAI tekende vorig najaar een meerjarige deal van zes gigawatt, Meta volgde in februari met een even groot akkoord rond custom GPU’s en Microsoft kondigde begin deze week grootschalige Helios-uitrol op Azure aan.
Op het event zelf komt daar een multi-gigawatt overeenkomst met Anthropic bovenop, inclusief een langdurige technische samenwerking. Samen met Oracle en een reeks neoclouds verwacht AMD het komende jaar meerdere gigawatts aan Helios-infrastructuur uit te rollen.
En CUDA, het eeuwige struikelblok? Dieckmann wuift het weg: “Vroeger sprak ik geregeld met klanten over CUDA. Vandaag heb ik daar bijna geen enkele conversatie meer over. Het is een non-event. Iedereen programmeert op hogere abstractieniveaus, en AI-agenten helpen klanten om naar ons platform te optimaliseren. Softwareobstakels zijn veel makkelijker te overwinnen dan enkele jaren geleden.”
Op onze vraag naar de toeleveringsketen, geen detail bij een systeem met zoveel componenten, antwoordt Dieckmann dat AMD de regie zelf in handen neemt: “We verkopen Helios niet als AMD-systeem, maar we werken met het volledige ecosysteem om te garanderen dat alle onderdelen in de juiste hoeveelheden, op het juiste moment en met de juiste kwaliteit beschikbaar zijn. Daar zijn we vele, vele maanden mee bezig geweest.”
Tegen Vera Rubin
AMD positioneert Helios frontaal tegenover Nvidia’s komende Vera Rubin NVL72 en claimt 15 procent meer FP4-compute, 50 procent meer HBM-geheugen, 50 procent meer scale-out bandbreedte en tot 30 procent meer tokens per euro.
Enige nuance is daarbij op zijn plaats. Vera Rubin werd op CES aangekondigd en verschijnt net als Helios in de tweede jaarhelft: AMD vergelijkt zijn metingen en modellen dus met de gepubliceerde specificaties van een rack dat evenmin al bij klanten draait, terwijl Nvidia van zijn kant vijf keer de inferentieprestaties van Blackwell en tien keer lagere tokenkosten belooft.
En Dieckmanns “non-event” ten spijt: het gros van de AI-tooling en -ontwikkelaars leeft nog altijd in het CUDA-ecosysteem, en Nvidia schuift zijn nieuwe rack in een klantenbestand dat vandaag al massaal op Blackwell draait. De bewijslast ligt bij de uitdager.
De trend is niettemin helder: voor het eerst schuift AMD een compleet rack naar voren dat op papier niet moet onderdoen, met de Instinct MI455X als motor, Epyc Venice als dirigent en een open ecosysteem als verkoopargument. De gigawatt-handtekeningen van OpenAI, Meta, Anthropic en Microsoft tonen dat de grootste kopers dat verhaal geloven, al was het maar om niet langer van één leverancier afhankelijk te zijn.
In de tweede jaarhelft moet Helios in echte datacenters bewijzen dat papieren specificaties ook draaiende tokens worden. Dan pas weten we of het rack van AMD een volwaardig alternatief is, of vooral een uitstekend onderhandelingsargument richting Nvidia.