Waar geavanceerde AI-modellen vandaag nog ongeveer honderd miljoen kosten om te trainen, komt de toekomstige generatie met een prijskaartje van één miljard of zelfs meer.
AI-modellen die vandaag in ontwikkeling zijn, zullen een trainingskost van om en bij de één miljard dollar met zich meebrengen. Dat claimt de Dario Amodei, CEO van Anthropic. Het prijskaartje van de meest geavanceerde modellen die vandaag beschikbaar zijn, is tien keer kleiner. Zo kostte het bijvoorbeeld ongeveer 100 miljoen dollar om GPT-4o te trainen.
Amodei vertelt in een podcast dat hij het kostenplaatje nog verder ziet toenemen. Binnen enkele jaren zullen modellen tien tot honderd miljard dollar kosten om te bouwen. In dat scenario verwacht de CEO dat de modellen mensen zullen overtreffen in tal van taken.
Hardware kost geld
Hardware is de grootste kost voor de training van modellen. Een enkele Nvidia B200-chip gebruikt voor de meest geavanceerde GPU-systemen, kost meer dan 30.000 dollar per stuk. Sam Altman van OpenAI liet zich recent nog ontvallen dat zijn bedrijf zo’n 30.000 GPU zal nodig hebben. Als dat allemaal B200-chips zijn, komt de kaap van de 1 miljard al erg dichtbij, en dat is dan zonder extra kosten zoals de omkadering van het fysieke datacenter, koeling en stroom.
De grootste kost van de AI-boom is evenwel niet noodzakelijk monetair. De immense GPU-clusters drinken meer stroom dan er duurzaam beschikbaar is. Zo heeft Google de ambitie om net zero te halen tegen 2030, maar zag het bedrijf zijn uitstoot van broeikasgassen omwille van AI in de plaats daarvan stijgen met 48 procent in vijf jaar tijd.