OpenAI maakt het api-platform voor zijn GPT-modellen veilig er en kostenefficiënter, om het aantrekkelijker te maken voor enterprisegebruikers.
De concurrentie in de AI-wereld wordt er niet malser op voor OpenAI, en dus steekt het bedrijf een tandje bij. In een blog doet het enkele nieuwe features uit de doeken voor enterpriseklanten die gebruik maken van api’s om de GPT-modellen aan hun bedrijfsomgeving te haken. OpenAI weet welke gevoelige snaren het daarbij moet raken: beveiliging, controle en kostbeheer.
Private links
Om de beveiliging van api’s te verhogen, introduceert OpenAI Private Links. Met deze feature kunnen gebruikers een directe verbinding opzetten tussen de modellen en hun Azure-cloud om de blootstelling aan het publieke internet te verminderen. OpenAI voegt ook MFA om de toegang tot modellen te beheren.
De Projects-functie moet bedrijven dan weer meer overzicht geven in hoe modellen gebruikt worden binnen de organisatie. In het dashboard wijs je rollen en api’s toe aan specifieke projecten en bepaal je welke modellen je beschikbaar wil stellen voor ieder project. Projecteigenaren hebben ook de mogelijkheid om api-sleutels voor serviceaccounts aan te maken, die toegang geven tot projecten zonder gebonden te zijn aan een individuele gebruiker.
Kortingen
Het gebruik van api’s is niet gratis. Twee nieuwe functies moeten ervoor zorgen dat de AI-rekeningen van bedrijven niet uit hun voegen barsten. Bedrijven die een constant niveau van tokens per minuut gebruiken op GPT-4 en GPT-4 Turbo, kunnen in aanmerking komen voor een korting op ‘geprovisioneerde doorvoer’, die tien tot vijftig procent kan bedragen, gebaseerd op de grootte van de verbintenis.
Dit lijkt een eerder complexe berekening, maar OpenAI zwaait nog op andere manieren met kortingen. Klanten kunnen nu ook gebruiken van Batch API om niet-urgente AI-workloads asynchroon uit te voeren. Deze verzoeken leveren een resultaat binnen de 24 uur op aan een verminderd tarief met vijftig procent.
Tenslotte neemt OpenAI ook Assistants API onder handen, een tool die organisaties helpt om aangepaste modellen te vinden. De api-tool krijgt onder meer verbeterde zoekfuncties, bestandsbeheer, real-time streaming en controle over tokengebruik.