Wie regelmatig API’s van OpenAI gebruikt, kan voortaan korting scoren door workloads te spreiden. Je krijgt gegarandeerd het resultaat binnen de 24 uur.
OpenAI zag in 2023 zijn jaaromzet stijgen naar 1,6 miljard dollar en is als bedrijf op weg naar een marktwaarde van 100 miljard dollar. Daar staat tegenover dat het bedrijf naar verluidt dagelijks 700.000 dollar uitgeeft om ChatGPT draaiende te houden. Al die peperdure Nvidia GPU’s aankopen kost geld, net als de benodigde stroom om die te voeden.
Om de verbruikspieken wat af te vlakken, introduceert OpenAI nu Batch API. Hiermee kunnen ontwikkelaars 50% korting krijgen op de API-prijzen en garandeert OpenAI een resultaat binnen de 24 uur. Als ontwikkelaar bespaar je op de kosten en krijg je hogere snelheidslimieten op asynchrone taken zoals samenvatten, vertalen en beeldclassificatie.
Ontwikkelaars kunnen alle details rond Batch API terugvinden op deze pagina van OpenAI.
lees ook