TSMC kan op dit moment niet volgen met de vraag naar AI-chips van Nvidia. De productieachterstand zal minstens 18 maanden aanhouden, wat voor een tekort in de voorraad kan zorgen.
Topman Mark Liu trekt bij Nikkei Asia aan de alarmbel. TSMC moet op dit moment alle reilen en zeilen bijzetten om aan tachtig procent van de vraag naar Nvidia-GPU’s te voldoen, waarvan TSMC de exclusieve fabrikant is. Tekorten dreigen in de komende maanden voor zowel de meest krachtige H100 als de iets minder geavanceerde A100-GPU’s, beide zeer in trek dezer dagen om AI-modellen te doen draaien.
Verpakking
De situatie doet je mogelijk terugdenken aan de chiptekorten in de coronapandemie. Het probleem is echter niet het aantal GPU’s dat TSMC van de band kan laten rollen, maar onvoldoende capaciteit om chips te verpakken. Dit betekent voor alle duidelijkheid niet dat TSMC te weinig kartonnen dozen heeft liggen. Verpakking, of packaging, staat in deze context voor het aan elkaar linken van alle componenten in de chips.
Dit is een zeer belangrijke stap in het productieproces, zeker bij krachtige chips zoals de Nvidia H100-GPU’s. In een chip zitten miljoenen tot miljarden minuscule transistors om stroom en data door te geven. Hoe meer transistors een chip telt, hoe krachtiger de rekencapaciteiten, is de vereenvoudigde vuistregel. Het proces van TSMC om chips te verpakken heet CoWoS.
Achttien maanden
Liu meent dat zijn bedrijf maximaal achttien maanden zal nodig hebben om de productieachterstand weg te werken. TSMC pompte al drie miljard dollar in een nieuwe site die de focus op verpakkingstechnologie zal leggen. Het bedrijf wil ook zijn CoWoS-technologie verbeteren om chips efficiënter te verpakken.
Analisten vermoeden dat er toch meer aan de hand is. De vraag naar AI-hardware zal nog niet meteen afnemen, de hype rond generatieve AI is naar de piek aan het toegroeien. Als de productie nu al niet kan volgen, dan dreigt de achterstand nu al te volgen. Achttien maanden kan dan al snel enkele jaren worden, hebben we geleerd uit de laatste chipcrisis.
Bovendien is TSMC een van de enige in de markt die, in naam van Nvidia, chips kan ontwikkelen die krachtig genoeg zijn om grote AI-modellen zoals GPT-4 te ondersteunen. Je hebt natuurlijk ook nog AMD en Intel die GPU’s bouwen, alsook nieuwe spelers genre Amazon en Google die hun eigen chips willen bouwen, al zullen die niet meteen voor een marktverschuiving zorgen.
Nvidia heeft nog niet gereageerd op de uitspraken van TSMC. De H100 is een gulle melkkoe voor het bedrijf: op elke verkochte GPU pakt het tienduizenden euro’s winst. Het bedrijf boekt daardoor miljardenwinsten. Nvidia zal zeker niet willen terugkeren naar de situatie van vorig jaar.