Hoewel fabrikanten ons de laatste maanden overstelpt hebben met nieuwe AI-pc’s, is geen enkel toestel zonder discrete GPU ook echt een AI-pc volgens de definitie en minimumvereisten van Microsoft.
Dell kondigde op MWC een verse lading AI-pc’s aan. Lenovo lanceerde eerder al verschillende AI-pc’s, ook MSI zette er al in de markt en ook HP speelt mee. AI-pc’s hebben één ding gemeen: ze bevatten een nieuwe Intel Core Ultra-chip, met daarop een NPU. AMD voorziet zijn Ryzen Mobile-processors ook van een NPU, en was daar zelfs sneller mee dan Intel, maar gaf zijn marketingdepartement niet de opdracht om de AI-pc-term van de daken te schreeuwen.
Intel doet dat wel en laptopboeren die Intel-laptops in de markt zetten, nemen die strategie gretig over. Sinds eind vorig jaar horen we langs alle kanten hoe we in een nieuw tijdperk van laptops zijn beland. Misschien heb je al een pc, maar je hebt vast nog geen AI-pc. Dus koop er maar één.
(Geen) 40 TOPS
Of niet. Want wie een AI-pc wil, moet nog even wachten. Vroege investeerders kopen een kat in een zak. Microsoft hanteert immers zijn eigen definitie van een AI-pc en die is duidelijk: een toestel moet na 16 GB RAM ook 40 TOPS aan rekenkracht bezitten. TOPS staat voor Tera Operations per Second en is een maatstaaf van het aantal bewerkingen dat een stuk hardware per seconde kan uitvoeren. Bij AI-gerelateerde workloads gaat het om INT8-tops, waarbij INT8 voor 8 bit-integer staat en verwijst naar een datatype dat relevant is voor AI-inferentie.
Je hoeft geen AI-wetenschapper te zijn om de essentie te snappen: als een computer 16 GB RAM en 40 TOPS aan rekenkracht heeft, is het een AI-pc volgens Microsoft. Heeft de computer minder rekenkracht (of RAM), dan vindt Microsoft het geen AI-pc. Aangezien alle zogenaamde AI-pc’s gelanceerd worden met Microsoft Windows aan boord, lijkt ons de definitie van Redmond relevant.
Copilot
De minimumvereisten zijn bovendien belangrijk: Intel verklapte pas zelf dat Microsoft van plan is om AI-functionaliteit via Copilot lokaal op je laptop te laten functioneren. Alleen heb je daarvoor een NPU met 40 TOPS nodig. En een Copilot-knop: die is klaarblijkelijk ook belangrijk.
De minimumvereisten zijn niet nieuw. Trendforce communiceerde ze al in januari en iets later zagen we bij een belangrijke fabrikant slides met daarop gelijkaardige informatie. Nu bevestigt Intel de specificaties ook. Eén partij blijft verrassend stil: Microsoft zelf. Ondanks herhaaldelijk aandringen zag Microsoft het niet zitten om enige vorm van commentaar over de specificaties te geven.
Onduidelijke definitie
Over de reden daarachter kunnen we speculeren. Feit is wel dat de term ‘AI-pc’ zich ontpopt tot een stevige farce. We beschreven eerder al waarom we de hele term eigenlijk overbodig vinden, maar verdwijnen gaat hij niet meteen. Intel drukt hard op het marketing-gaspedaal. Iedereen die zich laat meesleuren in het verhaal, koopt een pc die in feite beperkt geschikt is om belangrijke AI-toepassingen te draaien en Copilot niet lokaal kan uitvoeren.
Bovendien plant Intel al om nog dit jaar een nieuwe lading processors te lanceren met NPU’s die wel aan de 40 TOPS komen. AMD’s nieuwe exemplaren zijn ook nog niet beschikbaar, maar zullen 39 TOPS halen. Koop je nu een computer met het idee te upgraden naar een AI-pc, dan investeer je in Intels marketingverhaal, niet in AI-rekenkracht. In feite zijn alle zogenaamde AI-pc’s op dit moment niet de eerste toestellen van een nieuwe generatie, maar de laatste van een oude. De NPU is al aanwezig, maar de rekenkracht om echt impact te maken ontbreekt.
Nvidia kan het wel
Er zijn uitzonderingen: wie een computer aanschaft met een recente discrete grafische kaart van Nvidia (of AMD) aan boord, komt wel aan de befaamde 40 TOPS en gaat daar zelfs vlot voorbij.
Dat beseft Nvidia goed genoeg. In eigen slides deelt de GPU-specialist AI-workloads op in licht, medium of zwaar. Naar de inschatting van Nvidia komen de huidige NPU’s van Intel (en AMD) nauwelijks tegemoet aan zelfs de meest lichte vereisten. De toekomstige generatie zal beter presteren. Niet geheel verrassend stelt Nvidia vast dat zelfs een relatief lichte Geforce RTX 4050 volstaat om door het 40 TOPS-plafond te knallen richting de vereisten voor medium-AI.
Valse start
We begrijpen stilaan waarom Microsoft niet te vocaal wil zijn over systeemvereisten. Cruciale partner Intel heeft in feite een valse start genomen verkoopt AI-pc’s terwijl die eigenlijk nog niet op een relevante manier bestaan. Je kan argumenteren dat enkele niche-functies in applicaties zoals Photoshop wel al efficiënter draaien met een NPU, maar daar gaat de gemiddelde eindgebruiker niet veel van merken. Dezelfde functies werken immers ook zonder NPU.
Om zijn doelstelling van 100 miljoen verkochte AI-pc’s tegen 2025 te halen, kiest Intel ervoor om de definitie van AI-pc extreem ruim te nemen. Dat enthousiaste kopers die zich vandaag laten overhalen een systeem kopen dat niet compatibel is met al het AI-lekkers van morgen, lijkt Intel niet zo veel te deren.
Homeopathische AI
Het is moeilijk om te voorspellen welke AI-workloads in de toekomst lokaal zullen draaien, maar laten we Nvidia even volgen. In dat geval kunnen we systemen met 100 TOPS of meer echt relevant noemen voor AI: ze kunnen functies uitvoeren die niet mogelijk zijn op de CPU. 40 TOPS-systemen zoals die aangedreven door toekomstige chips van Intel en AMD zijn AI-light: ze kunnen workloads accelereren en volstaan voor enkele Copilot (of gerelateerde) functies.
lees ook
Wat is een AI-pc (niet) en moet je er überhaupt van wakker liggen?
De AI-pc’s vandaag met hun NPU’s van om en bij de 10 TOPS zijn eerder homeopathische AI: enkel echte believers gaan er iets aan hebben. De 10 TOPS volstaan om heel specifieke functies te accelereren, maar zowat al die functies werken ook zonder NPU. Is het dan wel verantwoord om een laptop zonder GPU vandaag als AI-pc in de markt te zetten?
De oplossing voor heel dit dubieuze verhaal leek even een soort van label te zijn. In een presentatie van een fabrikant zagen we een onderscheid in de stijl van full AI en AI-ready, al hoorden we sindsdien niets meer van dat plan. De voorgestelde labels illustreren wel de spreidstand die nodig is om zowel de pc’s van vandaag als die van morgen AI-pc te noemen. Vergelijk het opzet gerust met Full HD en HD Ready destijds. Daar betekende HD Ready in feite toch vooral: niet écht high definition. Zo is het ook bij de AI-pc’s. De exemplaren zonder GPU die nu in de rekken liggen, zijn toch vooral niet écht klaar voor AI.