AMD en Intel zijn het over één ding eens: de klassieke computer maakt in 2024 plaats voor de AI-pc. Daar moeten nieuwe AI-chips voor zorgen. Een doorgedreven marketingcampagne, opgehangen aan de onmiskenbare AI-hype, moet helpen om gebakken lucht aan de man te brengen.
Voor Intel en AMD is het een voldongen feit: de AI-pc bestaat. Beide chipdesigners ontwikkelen de CPU’s voor de toestellen, en fabrikanten zoals Dell en Lenovo claimen maar al te graag dat ze de AI-pc’s te koop aanbieden. Logisch: een ouderwetse pc heb je waarschijnlijk wel, maar ligt er ook een AI–pc in je kast?
Een nieuw soort pc?
Sinds de coronapandemie zit de pc-verkoop opnieuw een beetje in het slop. Het is gewoon een feit dat computers vandaag een stuk langer meegaan dan vroeger. De enige reden dat een ietwat deftig uitgerust systeem uit 2017 niet in staat is om Windows 11 te draaien, is de kunstmatig beperkende lijst van systeemvereisten die Microsoft uit z’n duim heeft gezogen in de naam van veiligheid. Wat pk’s betreft, kom je ook met een ouder systeem nog een heel eind voor kantoorwerk.
lees ook
Intel Core Ultra of AMD Ryzen: welke CPU kies je best voor je laptop?
Dat is lastig voor AMD, Intel, Lenovo, Dell, HP en de rest van de club. Er is niet meer zo’n praktische nood om computers van een upgrade te voorzien en dat geldt zowel voor particulieren als bedrijven. Dat is een probleem, en de AI-pc is een mogelijke oplossing.
Te midden van de AI-hype maken chip- en laptopfabrikanten ons maar al te graag wijs dat je pc nu ook AI moet zijn. In tijden van ChatGPT kan dat toch niet anders? Het klinkt bijna aannemelijk. De chipdesingers doen in ieder geval hun best om het concept van de AI-pc ook invulling te geven. Zowel AMD als Intel stoppen een AI-accelerator (of NPU) op hun processor die AI-workloads kan verstellen.
Drie problemen
Die AI-accelerator krijgt tijdens de lancering van de nieuwste processors extreem veel aandacht. AMD wijdt er zowat de hele aankondiging aan, wat ook moet want de CPU’s voor 2024 zijn verder virtueel identiek aan die voor 2023. Intel gaat nog een stap verder en geeft z’n hele processor line-up een nieuwe naam om de focus op AI te vieren. Zeg niet meer Core i, maar Core Ultra, mét AI aan boord. Het hele concept van de AI-pc hangt vast aan de vermeende baanbrekendheid van die nieuwe chips. Helaas zijn er drie grote problemen:
- De integratie van een NPU is niet zo speciaal;
- De geïntegreerde NPU heeft nauwelijks werk om te verzetten;
- Relevante AI-workloads voor het grote publiek zijn nieuw en vooralsnog cloudgebonden.
We analyseren die drie stellingen even, te beginnen met het belang van de NPU’s zelf. Die zijn gemaakt om AI-workloads heel specifiek te accelereren. Accelereren betekent dat de workloads niet worden uitgevoerd door de CPU-kernen zelf, maar door een geoptimaliseerd stukje chip dat AI-werk veel sneller en bijgevolg veel efficiënter verwerkt. Bovendien blijft de CPU zo vrij om andere, meer geschikte taken uit te voeren. Dat is onbetwistbaar handig, maar niet waanzinnig baanbrekend zoals de chipbouwers beweren.
Accelerators zijn de norm
Een moderne CPU bevat immers tal van accelerators. Om te beginnen heeft iedere laptopchip een GPU aan boord, die grafische workloads versnelt en eigenlijk ook een beetje als NPU kan dienstdoen. Daar blijft het niet bij. We nemen de Intel Core i7-1355U als voorbeeld. Die chip dateert van voor de AI-hype en drijft saaie oude non-AI-pc’s aan. Aan boord vinden we nochtans wel een GNA (Gaussian & Neural Accelerator). Ook dat is een soort NPU, al is die vooral op audio gericht. De vorige laptop-generatie was nochtans niet die van de audio-ai-pc’s.
De chip bevat eveneens een specifieke component die multimedia accelereert, door codecs zoals HVEC hardwarematig te verwerken. Met die multimedia-accelerator speelt je laptop 4K-video’s af alsof het niets is, terwijl bij een oude computer de CPU op volle toeren moet draaien om dat te bewerkstelligen. Multimedia in hoge resolutie is alomtegenwoordig, maar noch Intel, noch AMD, noch de laptopfabrikanten zelf vonden het nodig om het tijdperk van de HVEC-pc in te luiden.
De processor uit ons voorbeeld accelereert ook AES en meer specifiek AES-NI (New Instructions). Die accelerator zorgt ervoor dat data bliksemsnel versleuteld (of gelezen) kan worden en dat op een veilige manier. Toch hebben ’s werelds marketingdepartementen nooit over de crypto-pc gesproken.
AI-acceleratie is niet zo relevant
Dat brengt ons bij het tweede punt: AI-acceleratie is een stuk minder relevant vandaag dan de acceleratie van multimedia en encryptie. Bekijk je een filmpje op Youtube op je professionele laptop, dan gebruik je beiden (Bitlocker-encryptie houdt je data veilig, de Codec-engines zorgen ervoor dat de video vlot afspeelt). Moest de term crypto-multimedia-pc destijds zijn uitgevonden, was dat nog niet zo dwaas geweest. De geaccelereerde functionaliteit is breed relevant. Beide integraties op de chip losten actuele problemen op.
De nieuwe NPU’s in de zogenaamde AI-pc’s doen dat niet. Er zijn nauwelijks lokale AI-workloads om te accelereren en een gewone gebruiker loopt in die context niet tegen de beperkingen van een klassieke CPU aan. Dat weten AMD en Intel goed genoeg. AMD wees bij de lancering van z’n nieuwste processors naar wel honderd functies die gebruik maken van z’n NPU. Alle honderd functies behoren toe aan specifieke (voornamelijk grafische) applicaties en AMD was liberaal in z’n telling. Zo zijn 23 van de honderd functies knoppen in Adobe Photoshop, waaronder alle variaties van de Neural Filter. Negentien andere functies zitten bij Black Magic DaVinci Resolve.
Intel doet het naar eigen zeggen beter, en heeft wel 300 toepassingen gevonden voor z’n NPU. Opnieuw gaat het om heel specifieke functies, toebehorend aan heel specifieke software. Dat komt voor een stuk omdat ontwikkelaars hun software moeten optimaliseren voor de nieuwe NPU’s. De codec engines en AES-acceleratie versnellen in contrast functionaliteit die al wijdverspreid is. De functionaliteit creëerde de vraag naar acceleratie, terwijl we voor de NPU een omgekeerde beweging zien.
In feite is de NPU vandaag een oplossing zonder probleem.
In feite is de NPU vandaag een oplossing zonder probleem: er is geen veelvoud aan lokale AI-workloads dat de klassieke CPU-kernen overbelast. Dat beseffen Intel en AMD ook wel. AMD lanceerde samen met zijn AI-chips de Pervasive AI Developers Contest: een wedstrijd die ontwikkelaars moet aanmoedigen om effectief iets te schrijven dat de NPU een doel geeft. Ook Intel lanceerde zo’n programma. Een wedstrijd voor de creatie van multimedia was (uiteraard) nooit nodig in de zoektocht naar een nut voor de multimedia-acceleratie op chips, idem dito voor encryptie.
De AI-hype is een cloud-hype
De impact van AI is vandaag onmiskenbaar, wat meteen ook de reden is dat chip- en laptopfabrikanten proberen mee te surfen op de hype. Helaas voor hen speelt de hype zich vrijwel exclusief in de cloud af. Je hebt geen AI-pc nodig om van ChatGPT te genieten: zolang je computer een browser en internettoegang heeft, kan je met ’s werelds meest geavanceerde generatieve AI-model aan de slag.
Dergelijke knappe modellen zijn bovendien véél te groot om in de nabije toekomst lokaal te draaien, ook voor inferentie. Kleine functies (zoals de honderden die AMD en Intel noemen) kunnen wel geaccelereerd worden, maar wat de grote massa onder AI verstaat, speelt af op krachtige servers in datacenters.
Op termijn zullen er wel meer en meer gespecialiseerde modellen met handige functies verschijnen die lokaal kunnen draaien. Die zullen ongetwijfeld doorsijpelen naar het grote publiek. Wanneer lokale AI-modellen alomtegenwoordig zijn, is AI-acceleratie relevant. Vandaag is dat niet het geval.
De belangrijkste AI-integratie waar de kantoorwerker vandaag mee te maken zal krijgen, is (naast ChatGPT) vermoedelijk Microsoft Copilot. De Copilot werkt eveneens via de cloud, maar is op de AI-pc’s toegankelijk via een knop op het toetsenbord. Die AI-capaciteit heeft niets met Intel en AMD te maken, en is wat ons betreft ook niet zo welkom. Copilot is immers niet overal beschikbaar en niet gratis. Je krijgt met andere woorden een opdringerige toets die meer functioneert als reclamebord dan als sneltoets. De AI-pc brengt een soort Samsung Bixby-knop naar het Windows-ecosysteem.
Er is geen AI-pc
De conclusie is duidelijk: de AI-pc bestaat niet en hoeft niet te bestaan. De NPU’s aan boord van de nieuwste chips en laptops zijn de minst relevante toevoeging aan een lange lijst van accelerators. De dingen zijn maatwerk voor workloads die vandaag nauwelijks bestaan. De AI-hype bestaat wel, maar speelt zich op dit moment in de cloud af.
Wanneer dat verandert, is een compatibele pc waarschijnlijk wel relevant. Ook dan zal de AI-pc geen speciale categorie van toestel zijn. Computers evolueren al decennialang mee met de noden van de markt door de hardwarematige integratie van functionaliteit. Encryptie en multimedia zijn slechts twee voorbeelden. Intel mag Ultra achter z’n Core-processors plakken en de hele laptopwereld mag AI-pc-schreeuwen zoveel hij wil, dat verandert niets aan het feit dat de term een hol begrip is. Processor- en laptopfabrikanten willen kapitaliseren op een hype die zich voornamelijk in de cloud afspeelt. De AI-pc bestaat niet, trap er niet in.