Na een geslaagde eerste poging, kondigt AMD nieuwe Instinct-accelerators aan. De MI325X moet de handschoen opnemen tegen de Nvidia H200, voor Blackwell is grover geschut nodig.
AMD wil zich tijdens zijn conferentie in San Francisco laten gelden als een datacenterspecialist. We schreven al uitvoerig over de nieuwe Epyc Turin-serverprocessoren, maar AMD beseft dat goede CPU’s alleen niet voldoende zijn om het datacenter te veroveren. Er is namelijk een zeker bedrijf dat met zijn GPU’s de AI-industrie veroverd heeft.
Om de hegemonie van Nvidia te doorbreken, lanceerde AMD vorig jaar de Instinct MI300X, een ‘accelerator’ voor AI-workloads op servers. Een geslaagde introductie, want AMD wist meteen zeven procent van de AI-chipmarkt te veroveren, al zijn de claims over het ‘AI-leiderschap’ die de topmanagers van het bedrijf verkondigen misschien nog een beetje overroepen. AMD wil bewijzen dat de MI300X geen toevalstreffer was en kondigt in San Francisco diens opvolger Instinct MI325X aan.
Duel met Nvidia H200
Waar de MI300X het moest opnemen tegen de Nvidia H100, wordt de MI325X in een duel met de H200 geduwd. De accelerator is op dezelfde CDNA 3-architectuur ontwikkeld. De MI325X biedt 256 GB HBM3e-geheugen 6 TB/s bandbreedte. Daarmee haal je met de accelerator van AMD tot 1,3 keer hogere prestaties voor inferentie dan met de directe tegenhanger van Nvidia. Over Intel’s Gaudi 3 wordt zelfs niet gesproken.
De MI325X zal vanaf het vierde kwartaal van de band rollen, met bredere beschikbaarheid via partners vanaf het eerste kwartaal van volgend jaar. AMD communiceert op dit moment nog geen prijzen. Een enkele Nvidia H200 gaat makkelijk voor tienduizenden euro’s over de toonbank, dus geïnteresseerden partijen kunnen alvast beginnen sparen.
Opgewassen tegen Blackwell
AMD kan niet stilzitten. Nvidia Blackwell komt eraan, ondanks dat productieproblemen voor enige vertraging zorgen. De MI325X zal het niet halen in een rechtstreeks duel met de Blackwell-chips, dus licht AMD al een tipje van de sluier over hoe het competitief wil blijven. De MI-accelerators zullen een volledige redesign krijgen in 2025.
AMD plant dan over te stappen van CDNA 3 naar CDNA 4. De MI350-serie met de vernieuwde architectuur wordt in de tweede helft van 2025 verwacht. AMD belooft tot 288 GB HBM3e per chip en tot 35 maal betere inferentieprestaties. Aan een rechtstreekse vergelijking met Blackwell wagen de ingenieurs van AMD zich nog niet, maar ze beloven wel dat de accelerator ‘competitief’ zal zijn.
Vanaf volgend jaar wil AMD ook op een jaarlijkse architectuurcadans zitten, vergelijkbaar met Nvidia ook al verkondigde. Dat betekent dat voor 2026 al een volgende CDNA-generatie in de pijplijn zit, voorlopig CDNA Next gedoopt.