Databricks zet een nieuwe samenwerking met Nvidia in de verf, waarbij gebruikers AI-workloads kunnen accelereren vanuit het Data Intelligence Platform.
Geen AI zonder data, en geen AI zonder Nvidia: op zijn Data + AI Summit kondigt Databricks dus niet verwonderlijk een nauwere samenwerking aan met Nvidia. Net als grote concurrent Snowflake een week eerder wil Databricks duidelijk maken aan gebruikers dat de nodige hardware voor AI-workloads rechtstreeks vanuit het platform beschikbaar is.
Concreet brengt Databricks acceleratie met Nvidia CUDA naar het Data Intelligence Platform. Dat moet tal van AI-gerelateerde workloads op bedrijfsdata efficiënter maken. Databricks zelf zal voor zijn Photon-query engine Nvidia-acceleratie inbouwen. Voor de klant moet de samenwerking voor meer prestaties voor eenzelfde prijspunt zorgen.
NIM
Databricks lanceerde eerder (net als Snowflake) een eigen LLM: DBRX. Naar analogie met het LLM van de concurrent is DBRX een Mixture of Experts (MoE)-model. Het is beschikbaar als Nvidia NIM-microservice.
Jensen Huang, CEO van Nvidia, vindt de samenwerking alvast de moeite: “Door Nvidia CUDA-acceleratie naar de Databricks-stack te brengen, bouwen we de fundering voor klanten overal om hun data te gebruiken om generatieve AI op enterprise-niveau aan te drijven.” Vorige week was Huang ook (virtueel) aanwezig in het Moscone-center in San Francisco om een gelijkaardig verhaal te vertellen over de samenwerking met Snowflake.