Nvidia NeMo LLM Service kan modellen maken tussen de 3 miljard en 530 miljard parameters met eigen data in enkele minuten tot enkele uren.
Grote AI-modellen zoals OpenAI’s eigen GPT-3 trekken vandaag vaak de aandacht. Wie als ontwikkelaar zo’n Large Language Model (LLM) wil bouwen, heeft een forse infrastructuur nodig. Nvidia stelt die nu als dienst beschikbaar onder de noemer NeMo LLM Service. Hiermee kan je eenvoudiger LLM’s bouwen, aanpassen en uitrollen in AI-apps.
Nvidia NeMo is een opensource toolkit voor conversational AI en helpt ontwikkelaars met een grondige basis om LLM’s niet langer vanaf nul op te bouwen. Een LLM trainen kan vandaag ontzettend duur zijn met prijzen die variëren tussen de 9 en 23 miljoen dollar via bijvoorbeeld Google PaLM in de public cloud.
Volgens Nvidia kan je via de NeMo LLM Service modellen maken in verschillende groottes tussen de 3 miljard en 530 miljard parameters. Met custom data kan het enkele minuten tot enkele uren duren. Modellen kun je eigen maken door een techniek genaamd prompt learning waarmee industrie-specifieke applicaties kan bouwen.
Binnen NeMo LLM kunnen ontwikkelaars modellen eigen maken gebaseerd op verschillende profielen binnen een no-code ‘speelruimte’ om te experimenteren.
Verticale markten
Wie als data scientist binnen de levenswetenschappen werkt, kan specifiek beroep doen op BioNeMo LLM Service. Dit pakket is grotendeels hetzelfde als de standaard LLM Service, maar bevat twee taalmodellen rond chemie en biologie met ondersteuning voor proteïnen en DNA.
Binnen BioNeMo LLM zitten vier vooraf getrainde taalmodellen om mee te starten, inclusief een model van Meta’s AI R&D-divisie.
Nemo LLM en de BioNeMo-diensten met bijhorende cloud API’s zijn vanaf volgende maand beschikbaar in early access. Wie graag het NeMo Megatron framework wil testen, kan op Nvidia LaunchPad terecht voor een kosteloze testaccount.
Nvidia GTC 2022
Nvidia NeMo LLM werd op de jaarlijkse GTC-conferentie van het merk aangekondigd. Ander belangrijk nieuws is de algemene beschikbaarheid van Hopper, de nieuwe Nvidia H100 GPU voor datacenters.
Wie graag meer grafische pk’s in zijn pc wil stoppen, raden we aan om onze analyse te lezen van de nieuwe Nvidia GeForce RTX 4000-kaarten. De nieuwe generatie gaat gepaard met forse prestatiewinsten, maar ook de kaarten zelf zijn fors groter geworden. Vanaf 12 oktober is de eerste variant beschikbaar, de indrukwekkende Nvidia GeForce RTX 4090. Helaas is de adviesprijs even indrukwekkend: vanaf 1.959 euro inclusief btw.