OpenAI Foundry laat ontwikkelaars binnenkort toe om AI-modellen zoals GPT 3,5 en binnenkort GPT 4 te draaien op toegewijde en dus niet gedeelde infrastructuur, zodat ze maximaal de controle behouden. Dat blijkt uit een gelekt document.
OpenAI onthult zonder al te veel bombarie en vermoedelijk per ongeluk een AI-cloudplatform: OpenAI Foundry. Foundry geeft klanten de kans om de nieuwste AI-modellen van OpenAI te draaien in een gereserveerde cloudomgeving. Zo hebben ontwikkelaars niet alleen een garantie op het vlak van prestaties, maar kunnen ze modellen ook finetunen op basis van hun eigen noden.
Met Foundry zal OpenAI verder minimale versiecontrole aanbieden, wat impliceert dat updates naar nieuwere modellen niet verplicht gepusht worden. De informatie is afkomstig van een gelekte Google Doc die inmiddels offline is gehaald.
Clouddienst
OpenAI Foundry is een soort AI-as-a-Servicedienst in een platformcontext en komt met garanties inzake ondersteuning. Daarbij gaat het om zowel technische ondersteuning als garanties in verband met de beschikbaarheid van de dienst, naar analogie met traditionele SaaS-oplossingen. Helemaal flexibel is de dienst niet: klanten worden verwacht om te tekenen voor minstens drie jaar.
lees ook
ChatGPT krijgt flexibele normen en waarden op maat van gebruikers
Foundry zal in eerste instantie in drie smaakjes beschikbaar zijn. De goedkoopste versie is gebouwd rond GPT 3,5 Turbo en vereist een minimale afname van 100 instances aan een maandelijkse kostprijs van minimaal 220 dollar per instance, goed voor 22.000 dollar per maand voor wie een jaarabonnement neemt.
GPT 4
Het document dat de lancering van Foundry detailleert, verwijst verder naar twee andere modellen, aangegeven als DV. Dat staat vermoedelijk voor DaVinci, waarmee OpenAI in alle waarschijnlijkheid naar het toekomstige GPT 4-taalmodel refereert. Dat is beschikbaar in twee variaties. Met 300 instances (66.000 dollar per maand) krijg je een maximale context van 8K. Kies je voor het strafste aanbod, dan verdubbellen zowel het aantal instances als de prijs.
Het is onduidelijk welke hardware het aanbod zal ondersteunen, al is de kans groot dat OpenAI opnieuw in zee gaat met Microsoft Azure. Goedkoop is het aanbod niet. Het is dan ook specifiek gericht op ontwikkelaars die zelf aan de slag willen gaan met de krachtige modellen. Wie gegarandeerde toegang wil tot ChatGPT zonder overgeleverd te zijn aan beschikbaarheidsproblemen als gevolg van grote publieke interesse, kan voor een ChatGPT Plus-abonnement kiezen dat 20 dollar per maand kost.
ChatGPT als broodwinner
OpenAI Foundry toont samen met dat abonnement aan dat OpenAI steeds meer nadenkt over bronnen van inkomsten. Voorlopig slorpte het bedrijf vooral veel geld op, met onbetwistbaar knappe resultaten. Oplossingen zoals Foundry en ChatGPT Plus zijn echter noodzakelijk om de flinke hardware-rekeningen te betalen. Enorme AI-modellen trainen is immers niet gratis.