Neural Processing Units moeten toegankelijker worden. Daartoe werkt Microsoft aan een bredere ondersteuning van NPU’s in Windows. Project Volterra is daarin een eerste stap.
Op Build 2022 kondigt Microsoft Project Volterra aan. Project Volterra laat ontwikkelaars toe om een geïntegreerde Neural Processing Unit (NPU) te gebruiken om apps te bouwen die lokaal AI-geaccelereerde workloads draaien.
Project Volterra neemt de vorm aan van een fysieke Windows-computer, aangedreven door een Snapdragon-chip onder de motorkap. Het toestel moet ontwikkelaars de mogelijkheid geven om ARM-apps te testen en te bouwen naast Visual Studio, Windows Terminal, WSL, VSCode, Microsoft Office en Teams.
NPU in Windows
Volterra biedt toegang tot NPU-capaciteiten en lijkt een eerste stap in de bredere omarming van NPU’s door het Windows-ecosysteem. Hoewel Microsoft waarschuwt dat de details van Volterra zelf nog kunnen veranderen, lijkt het wel het plan om binnen het Windows-platform NPU’s te ondersteunen, naar analogie met GPU’s.
Het is de ambitie van Microsoft om het eenvoudiger te maken om apps te bouwen die AI-inferentie gebruiken los van het platform. Hybrid Loop wordt een cross-platform ontwikkelingspatroon dat het mogelijk maakt om pas laat in de ontwikkelingscyclus te bepalen of een app in de cloud dan wel lokaal moet draaien. Volterra kadert in dat verhaal.