Qualcomm pakt uit met de AI 100: een zuinige maar krachtige chip speciaal ontwikkeld om inference-workloads aan de edge uit te voeren met enorme efficiëntie.
Chipdesigner Qualcomm heeft al heel wat expertise achter de kiezen wat het ontwerp van krachtige maar zuinige chips betreft. Het bedrijf maakt de Snapdragon-SoC’s die je in de meeste smartphones terugvindt. Die Snapdragons hebben de laatste jaren heel wat hardwarematige AI- en machine learning-capaciteiten aan boord. Qualcomm komt daarmee tegemoet aan de vraag van telefoonfabrikanten om efficiënt AI-workloads op een mobiel toestel te kunnen draaien. Toepassingen zijn onder andere optimalisatie van de batterij aan de hand van het gebruik, of algoritmes in de camera die bijvoorbeeld scherpe foto’s bij weinig licht faciliteren.
Mobiele efficiëntie
De evolutie zorgde er voordat Qualcomm zich organisch ontpopt heeft tot specialist in het design van zuinige AI-chips. In een poging marktaandeel in de cloud te veroveren brengt het Amerikaanse bedrijf die expertise nu naar de AI 100 edge-chip.
De AI 100 is gebaseerd op de neural processing unit of NPU in de Snapdragons. Die NPU bestaat uit een combinatie van gpu (Qualcomms eigen Adreno) en een digital signal processing unit (Hexagon). Voor de AI 100 zet Qualcomm volop in op die bewezen combinatie.
De chip moet uitstekend presteren in omgevingen waar weinig energie voor handen is. De focus is inference. Dat is het uitvoeren van AI-workloads zoals voorspellingen door algoritmes die eerder al getraind werden. Dat trainen, dat vooral op krachtige servers gebeurd gedomineerd door Nvidia-hardware, is iets waar Qualcomm zich niet mee bezig houdt.
De AI 100 zou tot 10 keer meer rekenkracht per watt bieden dan wat de concurrentie kan voorleggen. De chip is compatibel met alle voorname software, zoals TensorFlow, PsyTorch, Glow, Keras en Onnx.
Specifieke focus
Enkele jaren geleden had het bedrijf nog de ambitie om te concurreren met Intel, AMD en Nvidia in het datacenter, maar al snel werd duidelijk dat de concurrentie met de gevestigde waarden daar te stevig is. De zet rendeerde niet, en Qualcomm trok zich terug.
De AI 100 illustreert dat het bedrijf nog steeds voet aan grond wil krijgen buiten de mobiele sector, maar dat het intussen beseft dat het wijzer is om een niche uit te kiezen waar het zich niet meer hoeft te bewijzen. Waar een potentiele koper zich bij een server-chip terecht zou afvragen waarom hij een risico zou nemen met Qualcomm als Intel ook een optie is, is de efficiëntie van de AI 100 gecombineerd met het succes in mobiele omgevingen hier een sterk argument.
Of de chip wel zal aanslaan, blijft natuurlijk de vraag. Qualcomm hoopt de eerste exemplaren beschikbaar te maken in de tweede helft van dit jaar. De edge-chip zal gefabriceerd worden op hetzelfde 7 nm-proces dat ook de moderne Snapdragon-chips gebruiken. Ook daar heeft Qualcomm een streepje voor op Intel, wiens 10 nm-aanbod maar niet van grond komt. Mobiel blijft wel de absolute focus van Qualcomm, dat naar nieuwe opportuniteiten zoekt zonder zijn core business onder tafel te vegen.
Gerelateerd: Nvidia lanceert goedkope AI-chip voor ontwikkelaars en edge-toepassingen