GPT-4 krijgt er een nieuw broertje bij. GPT-4o Mini biedt ontwikkelaars een lichter en goedkoper alternatief.
OpenAI onthult een nieuwe model in de GPT-4-familie. Twee maanden na de lancering van GPT-4o is er nu GPT-4o Mini. OpenAI omschrijft dit model als een ‘lichtgewicht’, wat betekent dat het model minder computingmiddelen vereist om te draaien. GPT-4o Mini is een directe concurrent voor Claude 3 Haiku en Google Gemini 1.5 Flash.
lees ook
GenAI: on-prem of toch maar in de cloud?
Omdat GPT-4o Mini minder rekenkracht opslorpt, biedt het voor ontwikkelaars een goedkoper platform om AI-applicaties op te bouwen. De prijs voor het gebruik van de GPT-modellen is een complexe berekening omdat dit gebaseerd is op het aantal input- en/of outputtokens. Voor GPT-4o Mini komt dit op 15 cent per miljoen inputtokens en zestig cent per miljoen outputtokens, meer dan zestig procent goedkoper dan GPT-3.5.
Goedkoper, maar niet minder goed
Goedkoper en lichter betekent niet minder capabel. OpenAI zwaait met de nodige benchmarks om aan te tonen dat GPT-4o Mini beter is dan GPT-3.5, maar ook beter dan de concurrentie, al dien je AI-benchmarks met een korreltje zout te nemen. Op de MMMU-test, dat naar algemene kennis peilt, haalt GPT-4o Mini 82 procent, op het examen wiskunde en coderen haalt het model telkens 87 procent.
lees ook
Anthropic wil betrouwbaardere benchmarks voor LLM’s
GPT-4o Mini is vanaf vandaag beschikbaar in ChatGPT voor zowel gratis als betalende gebruikers, met uitzondering van Enterprise-klanten die volgende week aan de beurt zijn. De lancering van GPT-4o Mini is ook het moment voor GPT-3.5 om op pensioen te gaan. Het model is nu al verdwenen uit het ChatGPT-keuzevenster en OpenAI zal ook API-toegang tot GPT-3.5 binnenkort sluiten.
Broadcom
De line-up van GPT-modellen wordt zo alsmaar uitgebreider. Om de capaciteit sneller te kunnen optrekken en minder afhankelijk te zijn van Nvidia, wil OpenAI zijn eigen AI-chips bouwen. Sam Altman zou zijn komen aankloppen bij Broadcom om een samenwerking rond de ontwikkeling van chips op te zetten, schrijft The Information op gezag van anonieme bronnen.
OpenAI heeft daarbij niet de intenties om te concurreren met Nvidia, maar wil zijn eigen boontjes kunnen doppen. Dit wordt voorlopig door beide bedrijven niet bevestigd.