Cloudgigant Alibaba heeft zijn eerste eigen AI-chip aan de wereld getoond. De focus ligt sterk op beeldherkenning: de chip kan tot 78.562 beelden per seconde verwerken. Hiermee kan het duurdere gpu’s uit eigen servers vervangen met snellere, energie-efficiëntere modellen.
De Alibaba Hanguang 800 AI-chip is de vrucht van een samenwerking met T-Head, een unit binnen de Alibaba DAMO Academy waarin 15 miljard dollar wordt geïnvesteerd. T-Head ontwikkelt de hardware van de chip alsook algoritmes bedoeld voor apps, inclusief die van Alibaba zelf.
De 12-nm Hanguang 800-chip bevat 17 miljard transistors en haalt in de populaire ResNet-50 benchmark een piekprestatie van 78.563 beelden per seconde. Hiermee is de chip 15 keer sneller dan een Nvidia T4-gpu. Alibaba pronkt ook met de energie-efficiëntie van de chips tijdens de benchmark. Per watt kan Hanguang 800 tot 500 beelden verwerken. Ter vergelijking: een Nvidia T4 kan tot 78 beelden per watt verwerken.
Chinese opmars
Binnen Alibaba Cloud wordt Hanguang 800 vandaag al geïmplementeerd voor videoclassificering en smart city-applicaties. Zo had een voorgaande installatie van 40 traditionele gpu’s een latency van 300 milliseconden om alle videobeelden van Chinese stad Hangzhou te verwerken. Dezelfde taak kan nu worden uitgevoerd door vier Hanguang 800-chips met een latency van 150 milliseconden.
De Hanguang 800-chip wordt niet rechtstreeks verkocht aan klanten in dit stadium. Net als Googles TPU-aanbod en de recente Huawei Atlas 900-oplossing kunnen geïnteresseerden tijd kopen op de AI clouddienst van Alibaba Cloud. Ontwikkelaars moeten omschrijven wat ze willen doen met de service en een quota aanvragen om het project te kunnen realiseren.
Chinese techgiganten zoals Huawei, Alibaba en Baidu hebben allemaal de weg naar AI-acceleratoren gevonden. Hanguang 800 is een eerste stap en kan enkel inference-taken verwerken. Huawei staat ondertussen al verder met de nieuwe Ascend 910 AI-chip die naast inference ook kan trainen.
Eerder dit jaar lanceerde T-Head al de XuanTie 910, een IoT-chip gebaseerd op RISC-V. Sinds deze zomer kan de chip worden geïntegreerd in IoT-applicaties zoals edge servers, netwerk en autonome wagens.
Gerelateerd: Huawei lanceert Ascend 910 AI-processor in tandem met nieuw framework