Microsoft heeft een nieuw compact taalmodel onthuld dat volledig op de NPU van Copilot+-pc’s draait.
Het nieuwe taalmodel genaamd Mu vormt het brein van de AI-agenten die nu in de Instellingen-app van Windows worden getest. Microsoft benadrukt dat het volledig op de NPU’s van Copilot+-pc’s draait.
Wat kan MU?
Mu werd specifiek ontworpen om binnen de geheugen- en energiegrenzen van NPU’s te passen. Dankzij die optimalisatie reageert de agent razendsnel. Windows Central stelt dat als je bijvoorbeeld “mijn muiscursor is te klein” typt, dat dan meteen een voorstel verschijnt om de aanwijzer te vergroten. De gebruiker hoeft niets meer op te sporen in sub-menu’s, de agent voert de wijziging uit zodra toestemming is gegeven.
Microsoft-ingenieurs lieten weten dat bestaande modellen te traag waren voor de gewenste latentie. Daarom verfijnden ze Mu met honderden praktijkscenario’s. Het resultaat is een latency van minder dan een halve seconde voor honderden instellingen, waardoor de interactie natuurlijk aanvoelt.
Binnen de grenzen van de NPU
Vivek Pradeep, Corporate Vice President voor Windows Applied Sciences, benadrukt dat Mu NPU-geoptimaliseerde bewerkingen gebruikt. Daardoor vermijdt het model onnodig wisselen van processors en blijft de systeembelasting laag, zelfs bij herhaaldelijk gebruik.
Microsoft rolt de functie nu uit in het Dev-kanaal van het Insider-programma. Als de feedback positief is, zal Mu ook buiten het testprogramma verschijnen, zodat alle Copilot+-gebruikers instellingen kunnen aanpassen via natuurlijke taal.