De nieuwe OCI Generative AI-dienst is volledig beheerd, zit in de cloud en biedt toegang tot Llama 2 en andere krachtige LLM’s.
Oracle lanceert zijn langverwachte Oracle Cloud Infrastructure Generative AI-service. Hiermee kunnen ondernemingen grote taalmodellen (LLM) tackelen zoals Llama 2 van Meta. In totaal ondersteunt de dienst meer dan 100 talen. Het portaal bevat ook verbeterd clusterbeheer voor GPU’s en andere finetune-opties.
Volgens Oracle biedt de nieuwe dienst een fundering voor deze modellen, die daarna bruikbaar zijn in diensten zoals tekstgeneratie, samenvattingen en semantische gelijkenissen.
Bij de aankondiging van de dienst midden vorig jaar omschreef Oracle het platform als een alternatief voor Microsofts Azure OpenAI-dienst. Daarmee kan je al langer LLM’s uitrollen die regeren op menselijke input door middel van conversatie.
Je kan bestaande AI-modellen gebruiken van Llama 2 of andere talen, maar alles wordt veel krachtiger wanneer je daar je eigen data aan toevoegt. Door middel van de OCI Generative AI Agents-service kan je die secuur toevoegen. Deze functie draait voorlopig nog in bèta en biedt toegang tot een RAG-agent om zoekcapaciteiten gebouwd in OCI Open Search te gebruiken. Zo krijg je altijd de meest up-to-date informatie.
Op termijn wil Oracle naast RAG ook meer datazoektools en aggregatietools toevoegen, waaronder Oracle Database 23c, AI Vector Search en MySQL HeatWave met Vector Store.
De OCI Generative AI-dienst is beschikbaar in de Oracle Cloud in verschillende regio’s. Wie dieper wil duiken in alle verschillende mogelijkheden, kan op de blog van Oracle terecht.