Claude 3-familielid Haiku heeft volgens Anthropic de snelste genen en is beschikbaar aan een betaalbare prijs.
Anthropic bracht begin maart, als volgende in de reeks na Claude 2.1, de nieuwe Claude 3-familie uit met Sonnet, Opus en Haiku in de hoofdrol. Net als de andere modellen uit de Claude 3-familie, kan Haiku reageren op basisvragen of –verzoeken. Waar Haiku volgens Anthropic in uitblinkt is zijn snelheid en betaalbaarheid. Gebruikers met een Claude 3 Pro-abonnement kunnen het model alvast uittesten.
Snelste uit de familie
De Claude 3-familie bestaat uit Sonnet, Opus en Haiku. Die laatste is volgens Anthropic de snelste van de drie, een bewering die het bedrijf hard probeert te maken met enkele benchmarks in zijn blog. Volgens het AI-bedrijf kan Haiku tot 21.000 tokens per seconde verwerken, wat gelijk is aan ongeveer 30 pagina’s tekst.
Haiku zou volgens Anthropic drie keer sneller zijn dan zijn collega’s bij het verwerken van de meeste werklasten. Hierdoor is het model geschikt voor gebruiksscenario’s die snelheid en lage latentie vereisen, zoals bijvoorbeeld klantenservice, vraag-en-antwoord of veldwerk.
Hoewel het bedrijf hiermee OpenAI voorbijstreeft, lijkt de ChatGPT-ontwikkelaar hier momenteel al een inhaalmanoeuvre te maken en zijn de eerste signalen van een GPT-4.5 Turbo zichtbaar.
Betaalbare prijs
Naast snelheid spendeerde Anthropic bij de creatie van het Haiku-model ook veel aandacht aan de prijs. Om dit waar te maken heeft het bedrijf een 1:5-prijsmodel geplaatst op de input-to-output-tokenverhouding voor bedrijfsworkloads waarbij langere prompts vaak voorkomen. De meeste bedrijven die gebruik maken van LLM’s doen dat om grote documenten te verwerken en analyseren, wat kan leiden tot hoge kosten.
Haiku zou zich aansluiten bij Sonnet op de publieke cloud van Amazon Web Service Inc. via Amazon Bedrock. Daarnaast zou het model binnenkort ook beschikbaar zijn voor Google Cloud Vertex AI. Klanten en ontwikkelaars kunnen nu alvast gebruik maken van het model met een Claude Pro-abonnement via claude.ai.