Moore’s Law is dood en Intel en Nvidia hebben vandaag de beste kaarten in handen. HPE heeft geen zin om te blijven volgen en heeft een fonkelnieuwe techniek ontwikkeld met een immens potentieel: Dot Product Engine.
HPE wil de klassieke transistor achterlaten met de Dot Product Engine. Dit nieuw type chip is geen volwaardige processor, maar een soort van accelerator die bruikbaar is in neurale netwerken en bredere HPC-applicaties.
Kort samengevat: de nieuwe techniek maakt gebruik van analoge circuitelementen om vector matrix multiplicaties uit te voeren. Wie meer over vectoren en vectorlengtes wil leren, kan ik deze cursus aanbevelen.
Tom Bradicich, VP en GM van Converged Servers, Edge & IoT systems bij HPE gelooft heel sterk in de nieuwe techniek. “Dezer dagen moet je veel maak- en koopbeslissingen nemen. We kopen vandaag bijzonder veel Intel-processors en Nvidia gpu’s. Het doel dat wij voor ogen hebben, betere prestaties en minder benodigde energie, lukt niet met de huidige hardware. Daarom schakelen we over naar de ‘maak’-aanpak.”
Dot Product Engine
De Dot Product Engine (DPE) is volgens HPE 10 tot 100 keer sneller en vereist 10 tot 1.000 keer minder energie vergeleken met een klassieke gpu over een variëteit van neurale netwerkapplicaties. De data vloeit binnen, wordt onmiddellijk getransformeerd en komt er direct uit. Encoderen is met deze methodiek niet meer nodig.
De architectuur heeft op sommige vlakken wat weg van een FPGA.
Er zijn weinig details bekend rond de architectuur, maar het heeft op sommige vlakken wat weg van een FPGA. Het heeft geen vaste configuratie en kan worden gebruikt voor inferentie van verschillende types van neurale netwerken. Grofweg: DPE kan lineaire algebra uitvoeren in een analoog domein. Hiermee is het veel efficiënter dan digitale implicaties, zoals specifiek ontworpen ASIC’s, volgens NextPlatform.
Je kan de nieuwe chips in hetzelfde rijtje zetten als Intel Nervana, TensorCore in Volta GPU’s of Wave Computing, maar Marco Fiorentino, Distinguished Technologist bij HPE, benadrukt dat er meer aan de hand is. “Het ontwerp is wel gelijkaardig in de zin dat bestaande chips handig vectoren kunnen verwerken. Ons design is echter ontwikkeld vanaf een hardware- en softwarestandpunt, waardoor het veel sneller is dan andere producten op de markt. Hiermee neemt de chip minder ruimte in, heeft het meer rekenkracht en een lager stroomverbruik. Ideaal voor extreme edge-toepassingen.”
Volgens Fiorentino is HPE uniek in de werking van de Dot Product Engine. “Klassieke acceleratoren zoals de Google Tensor Engine maken gebruik van een klassieke stap-voor-stapberekening. Onze oplossing kan dat in één enkele stap. Bovendien kan DPE steeds opnieuw worden geprogrammeerd voor eender welke taak die matrix-operaties vereist.”
Analytics
HPE mikt met de nieuwe techniek op analytics-toepassingen die vandaag het meeste baat hebben bij zuinige, krachtigere en flexibelere chips. Denk hierbij aan deep learning, signal processing, graph analytics of streaming analytics.
De volgende stap is een complete System-on-Chip (SoC) die in een computer kan worden ingeplugd.
Er bestaan vandaag een aantal prototype-microchips van HPE om aan te tonen dat de technologie werkt. De volgende stap is om een complete System-on-Chip (SoC) te bouwen die in een computer kan worden ingeplugd, vergelijkbaar met een gpu vandaag. Fiorentino: “We werken vandaag ook aan een software stack die ervoor moet zorgen dat het gebruik van de DPE even eenvoudig is als een API-call.”
Hiermee is het ook ineens duidelijk waarom HPE geen chipstart-up koopt maar alles in-house wil ontwikkelen. Het wil de flexibiliteit van de chip combineren met een software stack om specifiek binnen applicaties of bepaalde omgevingen te functioneren. De IT-industrie evolueert steeds meer van homogene mega-clouds en datacenters, naar gespecialiseerde architecturen die gefinetuned worden om specifieke problemen op te lossen. HPE heeft met de Dot Product Engine een beloftevol concept in handen. Afwachten wanneer we het eerste commerciële resultaat mogen bewonderen.
Gerelateerd: Opzij CPU: waarom de computer van morgen om geheugen draait