China zet zich in de schijnwerpers met een nieuw soort AI-computerchip, die traditionele deeplearning-architectuur combineert met neuromorfisch design. Kijken we voorbij alle buzzwoorden, dan is de aankondiging eigenlijk niet meer zo spectaculair.
De Tianjic-chip is een splinternieuwe chip gebouwd op een eigen architectuur die AI moet ondersteunen. De onderzoekers van het Centrum voor brein-geïnspireerd computeronderzoek aan de Tsinghua University mikken zelfs op een generalistische AI. Dat is kunstmatige intelligentie die dichter aanleunt bij menselijke intelligentie en dus verschillende zaken kan bolwerken, in contrast met specifieke AI die vandaag prevalent is. Denk daarbij aan algoritmes die bijvoorbeeld met een auto kunnen rijden, spraak kunnen herkennen of beelden kunnen interpreteren.
Hybride hersenchip
De chip zou uniek zijn omdat hij twee aanpakken voor AI-hardware combineert. Het is al langer duidelijk dat traditionele chips niet volstaan om AI-algoritmes vlot uit te voeren. De cpu wordt daarom steeds vaker vervangen door gpu’s die beter zijn in parallel rekenwerk. Voortbouwend op die voordelen werken bedrijven zoals Intel en Google aan op maat gemaakte hardware die deep learning op een efficiënte manier uitvoert.
Het is al langer duidelijk dat traditionele chips niet volstaan om AI-algoritmes vlot uit te voeren.
Het gros van de hardware catert naar neurale netwerken. Met neurale netwerken wordt de werking van een brein gesimuleerd door verschillende lagen van digitale ‘neuronen’ die verschillend reageren op specifieke input. Een beeldherkenningsalgoritme bevat zo een heleboel neuronen die samenwerken om bijvoorbeeld een hond op een foto te herkennen. Krijgt het algoritme input, dan geven alle neuronen een output in de vorm van een reëel getal. Die getallen kan je zien als zekerheidsscores (weinig waarschijnlijk dat dit beeld snorharen bevat, erg waarschijnlijk dat dit beeld een oog bevat). De combinatie daarvan leidt tot een probabiliteitsscore: 90% zeker dat dit een hond is.
De limieten van Von Neumann
Chips die dergelijke algoritmes ondersteunen zijn dan wel op maat gemaakt, ze werken nog steeds volgens de basisprincipes van de zogenaamde Von Neumann-architectuur. Dat betekent dat ze gebruik maken van een processor die met geheugen praat via een bus. Cpu en geheugen zijn gescheiden en het hele systeem werkt op basis van getimede cycli. De architectuur werkt tot vandaag best goed, al is de bus een eeuwige flessenhals. Systemen zoals cache-geheugen op de cpu werden ontwikkeld om daar het hoofd aan te bieden. Von Neumanns oerblauwdruk voor de computers is echter niet de enige manier om over een computer te denken.
Het alternatief zijn zogenaamde neuromorfische chips. Die werken volgens een totaal nieuw principe dat sterker doet denken aan het menselijk brein. Geheugen en rekenkracht worden dichter bij elkaar gebracht en chiplets worden gecombineerd en verbonden naar analogie met neuronen in een brein. De architectuur komt los van het Von Neumann-principe en leunt veel dichter aan bij de werking van hersenen. Ook de klok als basis van het systeem valt weg. Centraal staan zogenaamde ‘spikes’.
Brein als blauwdruk
In de plaats van iedere cyclus een output te genereren, praat een neuron in een neuromorphische chip enkel wanneer die effectief iets te zeggen heeft. Als een waarde in een neuron bijvoorbeeld een waarde overschrijdt, dan wordt er zo’n spike gegenereerd die vervolgens voor output zorgt. Zowel architectuur als manier van rekenen verschillen fundamenteel van de AI-chips die vandaag worden gebruikt. Er wordt volop gesleuteld aan AI-chips, onder andere door Intel, Samsung en dus ook Chinese onderzoekers.
De Tianjic-chip gebruikt een nieuw soort architectuur die duidelijk interessant is, maar misschien minder revolutionair is dan wordt gesuggereerd.
In de regel zijn de twee plannen van aanpak verschillend, maar niet noodzakelijk beter of slechter. De theorie luidt dat neuromorfisch design voor bepaalde workloads fantastisch zal zijn, maar dat wil niet zeggen dat deep learning en klassiekere neurale netwerken hebben afgedaan.
De Chinese onderzoekers halen de krantenkoppen omdat ze de twee systemen gecombineerd zouden hebben in één herprogrammeerbare chip. Die zou vervolgens workloads op een zo efficiënt mogelijke manier kunnen verwerken en in staat zijn om generalistische taken uit te voeren. In de praktijk is het echter helemaal niet duidelijk wat het voordeel van de hybride chip precies is.
Vliegikopter
ZDNet vergelijkt het met vliegen: een helikopter en een vliegtuig bieden elk op hun eigen manier een oplossing voor het vliegprobleem. Allebei zijn ze uitstekend geschikt voor specifieke situaties. Beiden combineren zorgt niet meteen voor een vliegmachine die plots dubbel zo goed is: het resultaat is een vreemde hybride met misschien enkele nichetoepassingen, die matig is in twee zaken.
De Chinese onderzoekers leggen niet in detail uit hoe hun chip werkt, welke algoritmes er precies op draaien en hoe die getraind worden. Er ontbreekt bovendien argumentatie die duidelijk maakt hoe de chip effectief ondersteuning biedt voor generalistische AI. Het systeem kan inderdaad meerdere taken gelijk verzetten, maar het lijkt eerder te gaan om de consolidatie van enkele specifieke taken in één chip. Die hypothese lijkt des te aannemelijk wanneer je weet dat de onderzoekers het nalaten om te definiëren wat ze precies bedoelen met generalistische intelligentie. De term wordt vandaag te pas en te onpas gebruikt en is zo een eerder hol begrip.
De hardware is zeker knap, maar niet zo revolutionair als eerder werd aangenomen. Het lijkt er dan ook op dat de Chinezen hun knappe, maar ietwat obscure chip hebben ingezet als propagandamiddel en dat de eigenlijke sprong voorwaarts in AI-design niet zo heel groot is.
Gerelateerd: Neuromorfische chips van Intel honderd keer efficiënter dan klassieke systemen