Fujitsu pakt uit met een nieuwe technologie die rekentijd van zowel CPU als GPU in realtime kan verdelen op basis van de noden van applicaties. Zo wordt alle beschikbare capaciteit in theorie optimaal benut.
Fujitsu stelt een nieuwe technologie voor waarmee het de rekenkracht van CPU en GPU optimaal wil verdelen onder applicaties. Volgens Fujitsu zelf is zijn nieuwe tool de eerste die in realtime rekentijd kan verdelen op basis van de noden van applicaties. Het Japanse bedrijf hoopt dat de oplossing ervoor zal zorgen dat beschikbare hardware efficiënter wordt ingezet. Op die manier biedt de technologie perspectief voor het wereldwijde tekort van GPU’s.
Optimaal verdelen
CPU’s en GPU’s kunnen verschillende toepassingen tegelijk bedienen, maar dat betekent niet dat de capaciteiten van beide componenten standaard optimaal worden ingezet. Fujitsu geeft een voorbeeld waarbij drie applicaties strijden om de rekentijd van twee GPU’s in een server.
In zo’n scenario is het mogelijk om GPU-één toe te wijzen aan app één, en GPU-twee aan app twee. Wanneer app drie wordt gestart, zal de software tijdelijk één van de GPU’s gebruiken om de workloads van de toepassing te accelereren. De resultaten van die meting worden vergeleken met eerdere metingen bij app één en twee. Vervolgens kan blijken dat app drie meer profiteert van GPU-acceleratie dan app één, waardoor de totale rekentijd op de server daalt wanneer GPU-twee wordt toegewezen aan app drie. Wanneer app twee vervolgens klaar is op GPU twee, kan app één van die vrijgekomen grafische kaart gebruik maken.
Voorrang voor realtime
In HPC-systemen kan de software ook in realtime wisselen tussen verschillende programma’s, zodat bijvoorbeeld code die in realtime moet worden uitgevoerd, voorrang krijgt. Dat is volgens Fujitsu handig voor toepassingen binnen digital twins, generatieve AI en meer. In beide gevallen is het opzet gelijkaardig: de vraag van software om GPU-acceleratie is groter dan het aanbod, dus de technologie van Fujitsu speelt scheidsrechter zodat rekenkracht wordt toegewezen op de efficiëntst mogelijke manier.
Fujitsu wil de nieuwe technologie in eerste instantie implementeren in eigen oplossingen. Daarbij kijken de Japanners eerst naar het Fujitsu Kozuchi-AI-platform, maar ook de HPC-dienst van het bedrijf zou er profijt bij hebben.