Iedere pc moet tegenwoordig een ‘AI-pc’ zijn. De NPU bepaalt of jouw apparaat onder deze noemer valt. Zo controleer je of jouw werkgezel een AI-pc is of niet.
Pc-fabrikanten slaan ons tegenwoordig om de oren met de term ‘AI-pc’. In theorie is dit een laptop die AI-toepassingen lokaal op de processor kan draaien, zonder daarvoor beroep te hoeven doen op de cloud. In de praktijk is het vooral een marketingverhaal om de verkoopcijfers op te krikken.
Ben je nu toch benieuwd of je een AI-pc op je bureau hebt staan? De kans is aannemelijk als je apparaat van dit of vorig jaar dateert. Zowat alle nieuwe toestellen die vandaag op de markt komt, worden als zodanig gepromoot, of het dat nu terecht is of niet. De Copilot-toets in het toetsenbord is de meest eenvoudige indicator, maar zegt niets over de processorkracht. Je kan de test eenvoudig zelf doen.
-
Stap 1: Zoek de processor
Via de instellingen in Windows kan je snel achterhalen welke processor onder de motorkap van je laptop zit. Hou WIN + I ingedrukt om de instellingen te openen en klik door naar het menu Systeem. Via Info (onderaan het keuzemenu) krijg je een overzicht van specificaties van je toestel.
Ons testtoestel, een Microsoft Surface 13, draait op een Qualcomm Snapdragon X Plus. Wie een beetje van processors kent, weet dat recente laptops met een Qualcomm Snapdragon-processor door Microsoft als Copilot+-pc’s erkend worden. Heb je een Intel- of AMD-laptop, hangt het af van welk type processor.
-
Stap 2: Apparaatbeheer
De instellingen vertellen je niet of er een NPU in je laptop zit. Hiervoor moet je in Apparaatbeheer duiken. Twee categorieën zijn relevant om meer te weten te komen over de processor. Dat zijn niet verrassend de menu’s Processor en Neural Processors. De NPU zit onder Neural Processors. Klik erop om meer informatie over de chip te verkrijgen en indien nodig de stuurprogramma’s bij te werken.
-
Stap 3: Wek de NPU
Nu weet je of je wel of geen AI-pc hebt. Maar waar dient die NPU nu voor? Op dit moment heeft de NPU nog maar weinig werk in Windows. Dat zal je merken als je Taakbeheer erbij neemt. In het menu Prestaties kan je het verbruik van verschillende componenten opvolgen.
Bij klassiek kantoorwerk zal de grafiek van de NPU een platte lijn vertonen. De NPU schiet enkel in actie bij toepassingen die lokale AI-rekenkracht vereisen. Een voorbeeld is de omstreden Recall-functie die enkel werkt op Copilot+-pc’s. Neem een screenshot met Recall en je ziet de piek in NPU-verbruik. Kijk ook eens naar het verbruik wanneer je de achtergrond vervaagt in een Teams-vergadering.
-
Stap 4: Draai een benchmark
Benchmarks zoals Geekbench AI geven een schatting van hoeveel AI-rekenkracht in je toestel zit. Het toestel legt zowel de CPU, GPU als NPU op de rooster, want iedere component is relevant voor het verwerken van AI-toepassingen. Geekbench AI draait ongeveer tien simulaties op verschillende types datasets.
Als je de app opent, krijg je eerst wat basisinformatie over je systeem te zien. Klik op Run AI Benchmark om de simulatie te starten. Tegen dat je naar het koffieapparaat bent geweest en weer terug achter je bureau zit, is de simulatie klaar. De scores zeggen op zichzelf niet veel, maar kunnen interessant zijn om de prestaties tussen verschillende apparaten en processoren te vergelijken. Geekbench houdt op zijn website een overzicht bij.
Lokaal of in de cloud?
Een gewone NPU in een kantoorlaptop is niet zo krachtig en wordt vandaag nog maar weinig benut. De meest populaire AI-toepassingen zoals ChatGPT draaien via je browser in de cloud. ChatGPT zal niet sneller werken op een computer met een NPU.
Om grote lokale AI-modellen te draaien, heb je dan weer een workstation nodig met heel veel RAM en een krachtige accelerator. De HP Zbook Ultra G1a is een voorbeeld van een laptop die echt genoeg pk’s aan boord heeft om lokaal een ChatGPT-achtige ervaring te bieden.