Microsoft wil minder geld uitgeven aan beter presterende chips voor AI, dus ontwikkelt Redmond ze zelf. De accelerators met codenaam Athena worden al getest en zouden vanaf volgend jaar verschijnen.
AI is een kostelijk zaakje, aangezien zowel training als inferentie eigen hardware nodig heeft. CPU’s werken immers hand in hand met accelerators zoals Nvidia’s H100-GPU’s. Om modellen zoals GPT-4 te trainen, zijn er tienduizenden accelerators nodig. Ook de inferentie achteraf, waarbij een getraind model effectief gebruikt wordt, heeft op grote schaal nood aan veel hardware. Microsoft wil zijn lot wat dat betreft meer in eigen handen nemen.
Athena
Sinds 2019 sleutelt de fabrikant daarom aan een eigen chip: Athena. Dat weet The Information. Athena moet performanter zijn dan de chips van derde partijen. Bovendien moet Microsoft de microchip niet extern aankopen, wat een positieve impact zal hebben op de eindafrekening.
Microsoft heeft immers grootste AI-plannen. Zowat het hele aanbod van het bedrijf, met Office op kop, zal in de nabije toekomst geïntegreerd worden met AI-functionaliteit. Ook zoekmachine Bing krijgt een AI-smaakje. Telkens iemand zo’n AI-functie gebruikt, moet de workload wel verwerkt worden door een geschikt stuk hardware.
Complementair aan Nvidia
Microsoft plant niet om het nieuwe Nvidia te worden. De chips van die AI-specialist zullen relevant blijven. Athena is een noodzakelijke extra die toekomstige workloads zal ondersteunen. De eerste Athena-chips worden momenteel al getest door Microsoft zelf, samen met OpenAI. Het is de ambitie om de eerste generatie van Athena in 2024 uit te rollen. Daarna zouden in principe nieuwe generaties volgen.
Het is onduidelijk of Microsoft Athena alleen wil gebruiken om zijn interne AI-honger te stillen, dan wel ook klanten te bedienen. Cloudconcurrenten AWS en Google bieden hun gebruikers immers toegang tot AI-specifieke instances die wel gebruik maken van de eigen chips. In dat opzicht lijkt het eerder logisch dat ook Microsoft op termijn in Azure dergelijke instances op basis van Athena zou aanbieden.