Samsung test geheugen met ingebouwde processor voor AI-workloads

Samsung experimenteert met geheugen dat zelf rekencapaciteiten aan boord heeft. Dat moet de CPU ontlasten en servers versnellen.

Samsung wil kleine processors integreren met zijn geheugen. De slimme geheugenmodules kunnen geheugencentrisch werk overnemen van de CPU van een systeem, zodat die ontlast wordt. Dat heeft een positieve impact op het verbruik van een systeem en maakt het geheel sneller, aangezien de CPU zich kan focussen op belangrijke taken.

De Koreaanse chipgigant test de technologie momenteel in zijn snel Aquabolt HBM-geheugen. Daarop integreert Samsung ‘Processing-in-Memory’ of PIM. Veel details verklapt het bedrijf nog niet, maar volgens The Register plaatsen de ingenieurs een kleine CPU bij ieder array van NAND-cellen in het geheugen.

AXDIMM

Samsung boekte eerder al succes met de integratie van HBM en PIM op één chip. Nu hebben de Koreanen de technologie succesvol getest in een Xillinx Virtex Ultrascale AI-accelerator. De HBM-PIM-technologie zou momenteel volwassen genoeg zijn voor de integratie op klassieke DIMMs.

Samsung noemt het nieuwe concept AXDIMM, wat staat voor accelerated DIMM. Tegen 2022 moet er een standaard klaar zijn voor de nieuwe technologie waarop ook andere geheugenbouwers en hardwarefabrikanten kunnen vertrouwen. Het potentieel is groot: met de juiste workloads zorgt het slimme geheugen voor een verdubbeling van de prestaties samen met een daling van het energieverbruik met wel 40 procent. Daarbij halen vooral AI-gerelateerde bewerkingen voordeel uit de AXDIMMs.

Toekomst

Het is niet omdat het theoretische voordeel groot is, dat servers vanaf 2022 plots allemaal AXDIMMs aan boord zullen hebben. De adoptie zal zeker nog een tijdje duren, als de technologiewereld er al voor staat te springen. Ontwikkelaars moeten de nieuwe hardwaremogelijkheden immers omarmen. Zonder brede software-ondersteuning zal AXDIMM gedoemd zijn tot een niche.

nieuwsbrief

Abonneer je gratis op ITdaily !
  • This field is for validation purposes and should be left unchanged.
terug naar home