OVHcloud introduceert AI Endpoints: een toegankelijk serverless platform dat toegang biedt tot meer dan 40 opensource AI-modellen voor uiteenlopende toepassingen.
OVHcloud heeft AI Endpoints gelanceerd. Dat is een nieuwe serverless oplossing waarmee ontwikkelaars eenvoudig geavanceerde AI-functionaliteiten kunnen integreren in hun toepassingen.
Eenvoudige integratie
AI Endpoints biedt een bibliotheek van meer dan 40 open-source LLM’s en generatieve AI-modellen. De oplossing richt zich op verschillende gebruikstoepassingen zoals chatbots, spraakmodellen, code-assistenten en meer. Ontwikkelaars van dergelijke toepassingen kunnen modellen inzetten zonder zich zorgen te maken over de onderliggende infrastructuur of specialistische AI-kennis.
De dienst bevat een sandbox-omgeving waarmee gebruikers AI-functionaliteiten kunnen testen voordat ze op grote schaal worden ingezet. Enkele belangrijke toepassingen, aangestipt door OVHcloud, zijn de integratie van LLM’s voor klantinteracties, geautomatiseerde tekstextractie om ongestructureerde data te verwerken, spraak-naar-tekst en tekst-naar-spraak omgevingen, en code-assistentie in ontwikkelomgevingen.
Gebruikers hebben via open weight-modellen de mogelijkheid om de AI-modellen niet alleen binnen OVHcloud te gebruiken, maar ook op hun eigen infrastructuur of andere cloudplatformen. Hierdoor behouden organisaties controle over hun data en implementaties.
AI Endpoints ondersteunt tal van LLM’s waaronder Llama 3.3 70B, Mixtral 8x7B en Qwen 2.5 VL 72B. Ook kleine en efficiënte SLM’s (Small Language Models) worden ondersteund, waaronder Mistral Nemo.
Serverless in de EU
AI Endpoints is serverless ontworpen, wat betekent dat OVHcloud het volledige infrastructuurbeheer uit handen neemt. Dergelijke serverless-toepassingen zijn handig in gebruik, maar creëren een vorm van lock-in. Dat is iets waar hyperscalers zoals AWS traditioneel van profiteren. Met deze oplossing biedt OVHcloud een Europees alternatief.
lees ook
OVHcloud lanceert eigen geïntegreerd Data Platform in Europa
AI Endpoints draait immers op de cloudinfrastructuur van het Franse OVHcloud, waarbij databeheer volledig binnen Europa plaatsvindt. De cloudprovider schuift die Europese roots graag naar voren, en stipt verder aan dat de eigen datacenters watergekoelde servers gebruiken om het energieverbruik te beperken.
De dienst is beschikbaar in Europa, Canada en de regio Azië-Pacific, met hosting vanuit het datacenter in Gravelines. De prijs wordt bepaald op basis van het aantal tokens dat per minuut per model wordt verbruikt.