HPE-CEO Antonio Neri benadrukt het belang van de samenwerking met alomtegenwoordige partner Nvidia, al verwacht hij niet dat de alleenheerschappij zal duren. Voor de praktijk stelt zich een andere vraag: ligt de huidige Belgische markt wel zo wakker van het AI-verhaal?
Nvidia is overal dit jaar. De GPU-specialist is niet alleen een cruciaal onderdeel van het verhaal van HPE op Discover in Barcelona, maar speelt vrijwel gelijktijdig ook een hoofdrol in Las Vegas op AWS re:Invent, waar Jensen Huang het podium besteeg. Eerder zagen we de CEO en oprichter van Nvidia passeren bij onder andere VMware, Snowflake en Microsoft. De AI-hype die vorig jaar startte met de lancering van ChatGPT, is gebouwd op een fundering van Nvidia-accelerators. Op dit moment is de AI-(r)evolutie er bijna onlosmakelijk mee verbonden.
Op Discover moet HPE een manier vinden om zijn essentiële samenwerking met Nvidia uit te spelen, en toch een uniek verhaal te vertellen. Dat pakt de fabrikant aan met een hybride full-stack-verhaal, waar het zijn sterktes aan die van Nvidia koppelt. We analyseerden de exacte aankondigingen op Discover eerder al in dit stuk.
Samenwerken en differentiëren
Maar hoe zit het met die samenwerking? Zowel klassiekere fabrikanten zoals HPE, Lenovo en Dell, als hyperscalers zoals AWS en Microsoft, dingen naar de hand van Jensen Huang. Of beter: de GPU’s van de man, want hoewel die aan recordvolumes van de band rollen, is de vraag véél hoger dan het aanbod. Het gros van de krachtigste chips gaat bovendien naar de hyperscalers, die afgelopen kwartaal alleen al honderdduizenden Hopper H100-GPU’s opslokten. Een fabrikant zoals Dell worstelt momenteel met een levertermijn van 39 weken voor AI-servers.
HPE zet op de conferentie in op een hardware-oplossing gebouwd rond Nvidia L40S-GPU’s. “Die zijn meer mainstream dan bijvoorbeeld Hopper, en zijn beter beschikbaar”, zegt Neil MacDonald, EVP en GM Compute bij HPE daarover. Toch lijkt de situatie complex. Waar hyperscalers en fabrikanten vorig jaar nog hun lot in eigen handen hadden, kunnen ze vandaag op AI-vlak weinig doen zonder eerst langs Huang te passeren.
Afhankelijk van elkaar
“We hebben al vele jaren een samenwerking met Nvidia, maar die berustte vooral op supercomputers”, bevestigt Neri aan ITdaily. “Dan kwam er het inflectiepunt vorig jaar, waarvoor ik Jensen feliciteer. Vandaag hebben we elkaar nodig. Nvidia heeft de chips, maar niet de aanwezigheid in de markt, de ondersteunende services of de capaciteit om op grote schaal oplossingen uit te rollen. Hij en Nvidia zijn geweldige ingenieurs, maar ze hebben het ecosysteem nodig.”
Neri benadrukt dus dat HPE niet alleen afhankelijk is van Nvidia, maar Nvidia ook van HPE. Dat vertaalt zich naar een nauwere samenwerking over de hele bedrijfsstructuur van HPE. “De teams werken samen, maar de samenwerking loopt helemaal tot de top door. Jensen en ik spreken iedere drie weken af.” De positiviteit is immens, al vermoeden we dat er achter de schermen toch meer speelt. Een leadtime van bijna een jaar voor een AI-GPU-server maakt niemand gelukkig.
Geen eeuwige alleenheerschappij
Nauwe banden, samenwerkingen en vriendschappen terzijde, is Nvidia het afgelopen jaar incontournable geweest. Zo’n de facto monopolie brengt toch nadelen met zich mee. Daar spreekt Neri zich niet over uit, maar hij merkt wel op dat de absolute dominantie niet zal blijven duren.
Neri: “De komende twaalf tot 24 maanden zal je nieuwe spelers in de markt zien. Zo is het vroeger ook gelopen, kijk maar naar Intel en AMD.” Intel is hoofdsponsor op Discover Barcelona, en een goeie partner van HPE, maar dat weerhoudt het bedrijf er niet van de concurrentie te omarmen. “In 2013 wilde Lisa (Su, CEO van AMD, nvdr.) opnieuw de servermarkt binnenbreken. Dat vonden we een goed idee, en we waren de eerste om te investeren in wat uiteindelijk Epyc werd.”
lees ook
HPE hernieuwt geloften met Nvidia en zoekt onderscheid met full stack-aanbod voor AI
“Volgend jaar al zal je meerdere opties zien voor AI-workloads”, gaat Neri verder. “Verschillende workloads hebben verschillende soorten acceleratie nodig.” Namen noemt de CEO niet, maar met de vermelding van Dr. Lisa Su en het AMD Instinct-portfolio in het achterhoofd, hebben we onze vermoedens. Zeker voor inferentie kan AMD perfect concurreren met Nvidia. Het is echter belangrijk dat partijen zoals HPE ook investeren om zo’n alternatief ecosysteem van de grond te krijgen. Dat staat, als we Neri mogen geloven, op de planning.
Ligt de Belg ervan wakker?
Uw correspondent uit het nederige Belgenland stelt zich echter de vraag in welke mate we écht moeten wakker liggen van wat er zich afspeelt in de bovenste echolonen van de AI-wereld. Staat ons kmo-land te springen om te investeren in inferentie-hardware, laat staan eigen trainingsclusters?
Stephane Layahe, managing director bij HPE BeLux merkt wel op dat ieder bedrijf nadenkt over wat het met AI kan doen. “Voorlopig zoeken ondernemingen nog naar echte toepassingen in hun business die hun toelaten meer te doen met AI. Onderschat echter niet hoeveel IT-mensen er bij grote banken en telecomoperatoren werken. Die teams denken echt na om zelf aan de slag te gaan met eigen hardware en oplossingen.”
Niet voor de kmo (vandaag)
“De kmo zal niet onmiddellijk een toepassing of de slagkracht hebben om zoiets te doen.’, bevestigt hij. “Serviceproviders gaan hen daarbij moeten helpen.” Iedereen denkt wel na over AI, maar tussen droom en werkelijkheid staan praktische bezwaren. Snel op de hypetrein springen, wil de Belg niet meteen doen.
“Dat is iets Belgisch”, denkt Country Channel Sales Leader Ann De Groote. “Wij willen eerst kijken, en dan pas implementeren.” Layahe is het eens, maar merkt wel op dat ons land op sommige domeinen toch voorloopt.
Er is dus vraag en interesse naar AI, en er zijn grote vooruitstrevende bedrijven met de capaciteit en ambitie om aan de slag te gaan. Een grote migratie naar AI-native hybride infrastructuur zoals HPE vandaag op Discover aanprijst, is echter niet aan de gang.
3-tier
Lahaye: “Een traditioneel model blijft heel populair bij klanten. Zij kiezen voor een klassieke onderliggende infrastructuur met compute, opslag en networking. Ook het investeringsmodel daarachter blijft klassiek, met capex-aankopen van overgeprovisioneerde capaciteit gericht op piekmomenten. Zo’n investeringstrajecten blijven schering en inslag.”
Er is met andere woorden nog tijd. Op Discover hebben Neri en HPE het vooral over innovatie op het scherp van de snee, terwijl capex-overprovisionering in silo’s nog steeds een populair model is. Dat zet het belang van de huidige dominantie van Nvidia in een ander daglicht. De problemen die er vandaag zijn, treffen niet de grote massa van klanten. Wanneer die klaar zijn om een stap te zetten, is de kans groot dat de markt al wat gediversifieerd is.