Volgens geruchten wil Amazon een eigen rivaal voor GPT-4 ontwikkelen en aanbieden via de AWS-cloud. Het model ‘Olympus’ zou tot twee biljoen parameters kunnen bevatten.
OpenAI heeft GPT-4, Google heeft PaLM 2 en Anthropic heeft Claude. AWS gooide het tot nu toe altijd vanop een andere boeg met Bedrock, waarop klanten hun modellen zelf kunnen bouwen, en mist daardoor een flasghip LLM in het portfolio om zijn kunnen in generatieve AI te demonstreren. Daar komt mogelijk verandering in: Reuters heeft van zijn bronnen binnen Amazon vernomen dat de cloudafdeling AWS volop aan het sleutelen is aan ‘Olympus’.
lees ook
AWS schakelt een versnelling hoger, maar kruipt niet noodzakelijk zelf achter het stuur
Dat model zou tot twee biljoen parameters kunnen tellen, aldus Reuters. Als dat cijfer klopt, dan zou Olympus een van de grootste en meest uitgebreide LLM’s tot nu toe ontwikkeld zijn. GPT-4 van OpenAI telt een ruim biljoen parameters, ter vergelijking. Drijvende kracht aan het project is Rohid Prasat, die in het verleden ook de ontwikkeling van Alexa heeft overzien.
Hoe meer, hoe beter
Wat zegt het aantal parameters over de capaciteiten van een AI-model? Een parameter is in deze context een set van configuraties die bepaald hoe het model data verwerkt. In de parameters wordt onder meer vastgelegd hoe elk stukje input dat een machine krijgt de output beïnvloedt. Cru gesteld is de vuistregel hoe meer parameters een model telt, hoe meer het ook zou moeten kunnen. Dat techreuzen tegen elkaar op modellen met steeds meer parameters ontwikkelen, is dus het AI-equivalent van meten wie de grootste heeft.
Amazon zal Olympus hoogstwaarschijnlijk via Bedrock beschikbaar stellen in de AWS-cloud, bovenop zijn eigen Titan-modellen en die van externe partijen. Olympus moet dan het nieuwe speerpunt van dat AI-aanbod worden. Dit alles is nog wel met een korreltje zout in te nemen. Vanuit het kamp van Amazon hebben we nog niets formeel gehoord over Olympus.