Cloudera omarmt het splinternieuwe Nvidia NIM zodat klanten snellere generatieve AI kunnen loslaten op hun bedrijfsdata.
Cloudera omarmt Nvidia NIM. NIM is een splinternieuwe oplossing van Nvidia, die pas enkele dagen geleden op GTC 2024 werd gelanceerd. Nvidia NIM bevat geoptimaliseerde cloud native microservices op maat van AI. Door AI en inferentie als eenvoudig inzetbare microservice te verpakken, verlaagt de drempel voor gebruikers om AI-capaciteiten te integreren in hun workflows.
Concreet zal Cloudera de NIM-microservices injecteren in het Cloudera Powered by Nvidia-aanbod. Dat aanbod is gericht op bedrijven en moet generatieve AI-implementaties op een veilige en betrouwbare manier faciliteren voor bedrijfsdata. De oplossing wordt langs de achterkant aangedreven door de Nvidia AI Enterprise-suite.
Integraties
Cloudera heeft meerdere integraties op de agenda staan. Cloudera Machine Learning zal model- en applicatieservices integreren om de prestaties van modelinferentie voor alle workloads te verbeteren. Met deze nieuwe functies voor AI-modelserving kunnen klanten fouttolerantie, lage latentie en automatische schaling realiseren voor modellen die overal worden ingezet, zowel vanuit de publieke als private cloud. Verder gaat Cloudera Machine Learning geïntegreerde NVIDIA NeMo Retriever-microservices aanbieden om de verbinding van aangepaste LLM’s met bedrijfsinformatie te vereenvoudigen. Deze mogelijkheid stelt gebruikers in staat om op ‘retrieval-augmented generatie’ (RAG) gebaseerde applicaties te bouwen en toe te passen.
Geen data zonder AI
Dat Cloudera Nvidia omarmt, hoeft niet te verbazen. De organisatie ontfermt zich over bedrijfsdata maar die is de fundering van generatieve AI-projecten. Wil Cloudera relevant blijven voor klanten die geïnteresseerd zijn in de nieuwste genAI-innovaties, dan moet het die wel aanbieden en dat betekent in de praktijk dat Nvidia-oplossingen snel beschikbaar moeten zijn.
Cloudera is de enige die een dergelijke strategie volgt. Snowflake, dat eveneens gespecialiseerd is in databeheer, werkt ook nauw samen met Nvidia om AI zo op een veilige manier naar klantendata te brengen.