Op CES deelt AMD heel wat details over de Instinct MI300: een opvallende accelerator voor datacenters die CPU, GPU en HBM-geheugen integreert op één chip.
De AMD Instinct MI300 is een opvallende chip. De Instinct-naam verklapt dat de MI300 in eerste instantie een accelerator is, maar dat is slechts een deel van het verhaal. AMD combineert de GPU-chiplets immers met 24 Zen 4-CPU-kernen en HBM3-geheugen op één extreem krachtige APU.
Centraal staat nog steeds de GPU. Daarvoor kiest AMD voor zijn eigen CDNA 3-architectuur voor datacenter-accelerators. De exacte specificaties van de grafische component kennen we nog niet. De GPU krijgt op de chip bijstand van 24 Zen 4-CPU-kernen. Dat impliceert dat de MI300 het equivalent van een AMD Epyc 9224-datacenterprocessor aan boord heeft.
HBM3
Zoveel rekenkracht, daar is geheugen voor nodig. AMD integreert daarom ook nog eens 128 GB aan HBM3-geheugen op de chip, verbonden via een 8192 bit-bus. Het geheugen is voor zowel CPU als GPU-onderdelen beschikbaar.
De prestaties mogen niet tegenslaan. AMD verwacht dat de Instinct MI300 acht keer beter zal presteren dan de MI250, met vijf keer meer pk’s per watt dan die chip.
De APU bestaat uit een ongeziene combinatie van chiplets verbonden via Infinity Fabric en voorzien van Infinity Cache. De chiplets zelf worden gebakken op 5 nm (voor onder andere de rekenkernen) en 6 nm (voor I/O-gerelateerde chiplets). Het geheel telt een enorme 164 miljard transistors.
CXL 3.0
De AMD Instinct MI300 is compatibel met de CXL 3.0-standaard en dat verbaast ons niets, aangezien het ding zelf de fysieke incarnatie van die standaard is. CXL 3.0 zorgt onder andere voor integratie van CPU, GPU en geheugen in een uitbreidbare poule, waarin processor en accelerator ook toegang hebben tot elkaars geheugen met cache-coherentie gegarandeerd.
lees ook
Wat is CXL? Efficiënter geheugen en de toekomst van HCI
De chip lijkt een antwoord op de Intel Xeon Max-processor die Intel vorig jaar voorstelde. Die processor combineert 56 rekenkernen met 64 GB aan HBM-geheugen en was de eerste x86-chip met HBM geïntegreerd. AMD biedt minder CPU-kernen op de MI300, maar veel meer HBM-geheugen en een uitgebreide GPU. Die combinatie belooft zeker voor AI-workloads vuurwerk te geven.