IBM toont een nieuwe processor-architectuur: NorthPole. Chips gebaseerd op de architectuur zouden sneller en efficiënter zijn in de verwerking van AI-workloads dan equivalente GPU’s.
IBM toont NorthPole aan de wereld. Dat is een chiparchitectuur op maat van AI. Processors op basis van die architectuur moet je nog niet meteen in de rekken verwachten, aangezien de fabrikant nu pas naar buiten komt met de chip via gepubliceerd onderzoek in het vakblad Science.
De NorthPole-architectuur maakt komaf met enkele conventies waar x86 en Arm bijvoorbeeld wel aan vasthouden. Zo wordt geheugen niet meer gescheiden van compute, en werkt NorthPole enkel met geheugen op de chip. De processors zou meer weghebben van een actieve geheugenchip dan van een klassieke GPU. De eerste NorthPole-chips combineren 256 kernen met een geheugenpoule.
Verder is de architectuur gebouwd met het oog op enorme parallelle workloads met lage precisie (lees: AI). De architectuur zou geïnspireerd zijn op de werking van het menselijke brein, mat een veelvoud aan dicht met elkaar verbonden schakelingen.
Knappe resultaten
IBM bouwde NorthPole-chips op een 12 nm-proces en liet ze kampen met GPU’s die op een gelijkaardige manier zijn gebouwd. Het gaat dus om iets oudere exemplaren. IBM claimt dat NorthPole tijdens de ResNet50-benchmark zo’n 25 keer efficiënter is dan een GPU.
De resultaten zijn veelbelovend. IBM claimt in essentie dat het een chip heeft ontwikkeld met een architectuur die superieur is voor AI vergeleken met wat Nvidia vandaag heeft. Toch zijn er enkele bedenkingen. Zo is het 12 nm-proces verouderd, maar niet alleen het bakproces van high-end GPU’s is de laatste jaren verbeterd. Nieuwe chips hebben ook een betere en efficiëntere architectuur. Dergelijke GPU’s bestaan niet op een 12 nm-proces, dus zijn niet betrokken in de vergelijkende studie van IBM.
Anderzijds is het erg waarschijnlijk dat ook NorthPole nog flink aan efficiëntie zal winnen wanneer IBM de chips doorontwikkeld, en op termijn een moderner bakproces omarmt. Verder heeft IBM meer nodig dan een goede chip om de concurrentie aan te gaan met Nvidia (en Intel en AMD). Een nieuwe architectuur impliceert dat er nieuwe software nodig is om workloads te ondersteunen. Om te slagen, heeft NorthPole op termijn een heel ondersteunend ecosysteem nodig.