Eigen chips ontwikkelen is al enkele jaren een grote troef van Huawei. Met die expertise wil het nu de AI-markt bewandelen. Wie aan AI of machine learning denkt, ziet voornamelijk Nvidia domineren, terwijl partijen als Intel en Google voor concurrentie zorgen. Vandaag mag je daar ook Huawei bij tellen.
Op Huawei Connect 2018 in Shanghai heeft de Chinese technologiegigant heel dikwijls AI vermeld. Artificiële intelligentie wordt vandaag door iedereen in de mond genomen, maar Huawei hield een flinke tour de force op de wereldwijde persconferentie. Het kondigde naast specifieke AI-chips van eigen makelij ook randapparatuur, genoeg rekenkracht in de cloud en een universele architectuur aan om probleemloos projecten te schalen. Ineens doet Huawei mee met de grote jongens, maar is het antwoord krachtig genoeg en komt het niet te laat?
AI-chips
De grootste troef van Huawei is zonder twijfel dat het de hardware zelf ontwikkelt voor AI-toepassingen. Waar talloze diensten en fabrikanten afhankelijk zijn van Nvidia & co, doet Huawei zijn eigen ding. Het lanceerde de Ascend 310 en Ascend 910, twee specifieke AI-chips met behoorlijk wat rekenkracht.
Huawei lanceert de Ascend 310 en Ascend 910, twee specifieke AI-chips met behoorlijk wat rekenkracht.
De Ascend 310 is een AI-chip die vooral toekomst heeft in persoonlijke toestellen en edge computing. Huawei lanceerde voor deze AI-chip vier geïntegreerde oplossingen om heel binnenkort mee aan de slag te gaan. De Ascend 910 is het vlaggenschip waarmee Huawei pronkt. De chip wordt op 7 nm gebakken (vermoedelijk bij TSMC) en biedt tot 256 teraflops aan rekenkracht voor AI-toepassingen. Huawei vergelijkt in zijn presentatie met de Nvidia Tesla V100 (125 teraflops) en de Google TPU 3.0 (90 teraflops).
Het enige probleem is dat Huawei niet duidelijk maakt waarop het cijfer gebaseerd is. Het is belangrijk om te weten hoe de wiskunde precies in elkaar zit, want brute rekenkracht is niet genoeg. Huawei geeft daarover voorlopig nog geen details. Systemen met de Ascend 910 zijn vanaf Q2 2019 beschikbaar in de hybrid cloud van Huawei.
Da Vinci-architectuur
Chips zijn belangrijk, maar in feite is het maar de onderste laag van het full-stack AI-portfolio waarmee Huawei uitpakt. Het wil van de conceptfase tot het definitieve resultaat de ontwikkelaar bijstaan. Het gaat om training, inference framework, application enablement en de AI-chips zelf. Volgens Huawei kan hun AI-oplossing overal worden toegepast: public cloud, edge computing, IoT-toestellen en consumentenproducten.
Om het platform toegankelijk te maken, werkt Huawei met een universele Da Vinci-architectuur over elke chipset. Ontwikkelaars kunnen consistent ontwikkelen en debuggen, onafhankelijk van de grootte van het project. Dang Wenshuan, Chief Strategy Architect bij Huawei: “Onze AI-oplossing heeft veel geheugenbandbreedte en een heel lage latency. Ontwikkelaars hebben twee opties: klein starten en groot groeien (scale-out) of een basis bouwen voor het grootste scenario maar dan naar het kleinste schalen om te starten (scale-in).”
Om het platform toegankelijk te maken, werkt Huawei met een universele Da Vinci-architectuur over elke chipset.
De Da Vinci-architectuur heeft een 4 TB/s L2-buffer en 1,2 TB HBM-geheugen om maximaal te schalen. De schaalbare on-chip interconnectie heeft een ‘high-bandwidth mesh-netwerk’, meer details geeft Huawei daar voorlopig niet rond.
Full-stack
Full-stack betekent alles van begin tot einde, dus zijn AI-chips niet genoeg. In het volledige portfolio zitten drie belangrijke componenten: Compute Architecture for Neural Networks (CANN), ModelArts en MindSpore.
CANN levert optimale prestaties en ontwikkelingsefficiëntie voor ontwikkelaars. CANN moet de groeiende ontwikkelaarsdiversiteit een handvat geven. Wenshuan: “Vandaag is er een sterke focus op performance, maar dat is niet altijd efficiënt. CANN combineert Huawei-ontwikkelaars en algemene AI-ontwikkelaars. Het omvat een chipoperatorbibliotheek en een sterk geautomatiseerde operatortoolkit voor ontwikkelaars.”
MindSpore moet ervoor zorgen dat de trainingstijd drastisch wordt ingekort om kosten te beperken. Huawei mikt op een hoog aantal operaties per watt. Het biedt een universeel training en inference framework voor toestellen (light), edge (local) en cloud (large-scale). De hele architectuur is beschikbaar vanaf volgend jaar. Huawei stelt ook een cluster beschikbaar van 256 petaflops (1.024x Ascend 910 SoC).
Alle scenario’s
Tot slot is er ModelArts, een machine learning Platform as a Service (PaaS) om de AI-adoptie te verbeteren door ontwikkelaars verschillende full-pipeline services te geven. De set omvat hiërarchische API’s en vooraf geïntegreerde oplossingen. AI verfijnt app-ontwikkeling voor data scientists en ontwikkelaars en zorgt voor een productie-georiënteerde automatische optimalisatie.
Huawei benadrukt dat hun oplossing focust op alle mogelijke scenario’s waarin AI belangrijk is, inclusief public clouds, private clouds, edge computing in al zijn vormen, industriële IoT-toestellen en consumentenapparaten.
Om een grondige basis te leggen, mikt Huawei op 1 miljoen ontwikkelaars in drie jaar tijd.
Om een grondige basis te leggen, mikt Huawei op 1 miljoen ontwikkelaars in drie jaar tijd. Het lanceert hiervoor een AI Talent Training-programma, maar we voelen tijdens de presentatie heel sterk dat de Aziatische markt wordt geviseerd. Om een vergelijking met Nvidia te maken, staat het project van Huawei nog te sterk in de kinderschoenen. Het ondersteunt heel wat openbronprojecten, maar de Da Vinci-architectuur is pas vanaf begin 2019 actief en het start met een achterstand vergeleken met de talrijke ontwikkelaars op andere platformen.
De reden waarom Huawei ineens plots zwaar op AI inzet is logisch. Ze hebben de chipontwikkeling onder de knie en een cloudinfrastructuur beschikbaar om in te werken. Met MindSpore, CANN en ModelArts heeft het de bouwstenen ertussen voor de volledige full-stack. Tegen 2025 verwacht Huawei dat de AI-business 380 miljard dollar waard zal zijn, waarvan 90 procent gedreven door bedrijven. Daar zullen de meeste applicaties uit komen, en Huawei wil met deze aanval een zo groot mogelijk deel van de koek.