NetApp introduceert Novus, een opslagarchitectuur voor aanbieders met grote GPU-omgevingen. Het systeem scheidt metadata van het datapad en is ontworpen voor een doorvoer van 100 TB/s.
NetApp heeft Novus aangekondigd, een nieuwe architectuur voor aanbieders van neoclouds en GPU-as-a-Service die AI-fabrieken bouwen. Volgens het bedrijf schieten traditionele opslagarchitecturen tekort op die schaal. Daardoor kan het gebruik van GPU’s onder dertig procent zakken, omdat de data niet snel genoeg bij de chips geraken. Dat drukt het rendement op dure investeringen en verhoogt de infrastructuurkosten.
Metadata los van het datapad
Novus scheidt de metadata van het datapad. Prestaties, capaciteit en gelijktijdige toegang kunnen daardoor onafhankelijk van elkaar schalen onder één namespace, met de standaard NFS. NetApp bouwt het systeem voor een bestandssysteem op zettabyteschaal.
De eerste release combineert Novus Data Director, de metadatasoftware, met gekwalificeerde Supermicro-infrastructuur. Daarbij komen de ONTAP-dataservices van NetApp op AFF A90-systemen. Het resultaat is een gedesaggregeerde architectuur die volgens het bedrijf een doorvoer van meer dan 100 TB/s haalt en honderdduizenden GPU’s efficiënt kan bedienen.
De architectuur is bedoeld voor multi-tenant AI-fabrieken op cloudschaal en is vandaag al bestelbaar. Op termijn komt er een pad naar softwaregedefinieerde uitrol, met dezelfde namespace en hetzelfde werkmodel.
Op schaal van AI-fabrieken
NetApp somt drie voordelen op van deze nieuwe architectuur. Door de metadata los te koppelen, moeten er minder opslagknelpunten zijn en blijven de GPU’s aan het werk. Miljarden bestanden en grote AI-datasets groeien binnen één namespace, zonder silo’s of extra operationele complexiteit.
Operators schalen bovendien enkel de middelen op die een workload nodig heeft. Dat moet het verbruik van stroom, ruimte en infrastructuur beperken, terwijl de betrouwbaarheid, de beveiliging en de multi-tenantmogelijkheden behouden blijven.
Syam Nair, Chief Product Officer bij NetApp, stelt dat opslag uit het HPC-tijdperk alleen de schaal van AI-fabrieken niet aankan. Volgens hem is een architectuur nodig die van bij het begin voor die schaal is gebouwd.
Schaalbaarheid getest
Verschillende analisten, waaronder Omdia, hebben de Novus-architectuur getest. Bij die tests schaalde de prestatie bijna lineair naarmate er ONTAP-clusters aan één globale namespace werden toegevoegd. Op basis daarvan verwacht Omdia dat Novus kan opschalen tot 100 TBps aan sequentiële leesdoorvoer, met tientallen exabytes aan effectieve capaciteit. Het bureau rekent erop dat de oplossing ook zettaschaalimplementaties aankan.
Mike Leone, Vice President en Principal Analyst bij Moor Insights & Strategy, wijst erop dat de economie van AI-infrastructuur afhangt van de bezettingsgraad van de rekenkracht. Opslag die geen data op cloudschaal levert, beperkt volgens hem de trainingsprestaties en het rendement van de investering.
Ook Cisco, dat samen met NetApp Flexpod-opslag levert, steunt de aanpak. Jeremy Foster, Senior Vice President en General Manager van Cisco Compute, ziet de data en het gebruik ervan als het echte onderscheid, niet de GPU zelf.
Met Novus mikt NetApp op aanbieders die hun GPU-investeringen beter willen benutten. De architectuur is nu bestelbaar, terwijl softwaregedefinieerde uitrol later volgt. De cijfers over doorvoer en schaal komen grotendeels van NetApp zelf en van projecties van Omdia, dus de praktijk moet nog bewijzen of Novus die beloftes waarmaakt.