Snowflake lanceert een eigen LLM: Snowflake Arctic. Dat generatieve AI-model moet zich als getalenteerd expert in meerdere velden kwijten van complexe taken op maat van enterprises, en klikt netjes in het dataplatform van Snowflake.
Snowflake introduceert Snowflake Arctic. Arctic is een eigen Large Language Model (LLM) dat moet concurreren met GPT-4, Llama 3 8B, en andere belangrijke LLM’s. Daartoe voorziet Snowflake zijn Arctic-model van enkele interessante troeven.
Om te beginnen is Snowflake Arctic gebouwd voor enterprises en maakt het deel uit van het Snowflake-dataplatform. Het LLM heeft dus op een veilige en gecontroleerde manier toegang tot bedrijfsdata, zonder dat enterprises hoeven te vrezen dat hun gegevens per ongeluk bij externe partijen terechtkomen.
Meerdere experts
Verder kiest Snowflake met Arctic voor een zogenaamde Mixture-of-Experts (MoE)-aanpak. Dat impliceert dat Arctic geen homogeen model is, maar in feite een combinatie van geoptimaliseerde submodellen. Vergelijk de aanpak kort door de bocht met je brein, waarin bepaalde zones beter zijn in bepaalde taken dan andere. Door die gerichte optimalisatie op maat van enterprises, claimt Snowflake dat Arctic de concurrentie overtreft in tal van belangrijke workloads. Zo kan het model erg goed SQL-code genereren.
Vervolgens zorgt de integratie in het Snowflake-platform ervoor dat klanten Arctic relatief laagdrempelig kunnen inzetten. Het model past immers binnen de Snowflake Cortex-oplossing, die Snowflake eerder introduceerde om klanten snel toegang te geven tot AI-modellen. Cortex zorgt er in essentie voor dat je Arctic serverless kan draaien op je eigen data.
Snowflake stelt dat zijn experts Arctic konden bouwen in drie maanden tijd, aan ongeveer een achtste van de kosten die normaal gepaard gaan met de training van een model van deze grootteorde. Het bedrijf stelt Arctic beschikbaar onder een open Apache 2.0-licentie. Wie wil, kan gebruik maken van implementatietemplates.
AI-focus
Snowflake is niet aan zijn proefstuk toe. Vorig jaar sprong de datacloudspecialist met veel enthousiasme op Nvidia’s AI-trein. Dat was een slimme en noodzakelijke zet: Snowflake wil de data van de wereld op een veilige manier beheren en ontsluiten, zodat organisaties niet alleen op een structureel gezonde manier inzichten uit hun eigen data kunnen halen, maar die ook kunnen combineren met gegevens van externe partijen in een datacloud. Al die data, zonder AI-capaciteiten, zou in het huidige hypeklimaat nefast zijn voor Snowflake.
In tussentijd zagen we AI-acceleratie met Nvidia, alsook de introductie van meer gerichte LLM’s zoals Arctic Embed: een reeks van kleinere gespecialiseerde modellen. Snowflake blijft ook inzetten op de ondersteuning van modellen van derden.