Intel laat Hala Point los op de wereld: dat is een prototype van een zogenaamd neuromorphisch systeem, dat meer functioneert zoals het menselijke brein. Intel hoopt dat Hala Point de weg vrijmaakt voor efficiënte en betaalbare AI.
Intel toont Hala Point: een neuromorphisch computersysteem gebaseerd op de Loihi2-processor. Hala Point moet net als voorganger Pohoiki Springs meer functioneren zoals het menselijke brein en heeft daarom een heel eigen architectuur. Het systeem is gebouwd rond (digitale)neuronen en Hala Point heeft er tien keer meer dan Pohoiki Springs. Geheugen en rekenkracht zitten net als bij het brein met elkaar verweven in de oplossing.
Hala Point is een uit de kluiten gewassen server met 1.152 Loihi 2-processors gepropt in een 6U-chassis. Het systeem heeft 1,15 miljard neuronen en 128 miljard synapsen, verdeeld over 140.544 neuromorphische processorkernen. Het systeem gebruikt 2,6 kW aan stroom en heeft 2.304 x86-kernen aan boord ter ondersteuning met traditioneel computerwerk.
De oplossing levert 15 TOPS/W en is uitermate geschikt om deep learning-netwerken te ondersteunen. Volgens Intel is de neuromorphische aanpak zowel krachtiger als efficiënter dan meer traditionele AI-hardware gebaseerd op GPU’s. Intel hoopt dat Hala Point de training van grote modellen zoals GPT-4 haalbaarder zal maken.
Uitdager voor Nvidia
De oplossing is een directe uitdager voor het ecosysteem gecreëerd door Nvidia en lijkt op papier een streepje voor te hebben. In de praktijk kan Nvidia echter beroep doen op een uitgebreide en breed omarmde suite van software-oplossingen. De vraag is maar in welke mate AI-ontwikkelaars geneigd zijn om een volledig nieuwe architectuur te omarmen.
lees ook
Intel onthult Gaudi 3: rechtstreekse concurrent voor Nvidia H100
Het Hala Point-prototype wordt gebruikt in de Amerikaanse Sandia National Laboratories en wordt daar ingezet voor rekenproblemen gerelateerd aan verschillende natuurkundige domeinen. Het computersysteem is erg goed in optimalisatieproblemen vergeleken met klassieke computerchips, en heeft voordelen die ook toegeschreven worden aan (nog niet bestaande) kwantumcomputers.