De internationale investeringen in AI-infrastructuur zijn zo immens dat de reguliere IT-markt er onder kreunt. Wat betekent dat voor organisaties die vandaag met AI aan de slag gaan?
In de VS willen bedrijven samen met de overheid zeker 500 miljard dollar investeren in AI-infrastructuur. De hoeveelheid datacenters die aan de overkant van de oceaan wordt neergepoot, doet de wenkbrauwen fronsen van zowat alle deelnemers van een ronde tafelgesprek, georganiseerd door ITdaily.
Daar delen vijf experts hun visie op de impact van AI op de werkvloer en de bedrijfsvoering. Rond de tafel zitten Véronique Van Vlasselaer, Head of AI & Data Science bij SAS EMEA, Gianni Cooreman, Senior Director Solution Engineering voor Salesforce Benelux, Matthijs van den Langenberg, AI Adoption Lead Benelux van Lenovo, Joris Dresselaers, Business Area Director bij Visma en Wilco Zwerus, Client Solutions Sales Director bij Dell Technologies.
Samen zijn de deelnemers overtuigd van de kracht van AI. Dat de strategische implementatie van de technologie brede mogelijkheden biedt, staat niet echt ter discussie. De huidige ontwrichting van de markt door de immense investeringen in AI-datacenters, doet echter wel enkele wenkbrauwen fronsen.
“Massale wereldwijde investeringen versnellen de uitbouw van AI-infrastructuur,” zegt Zwerus. “Voor organisaties die nieuw zijn met AI, is de belangrijkste vraag niet schaal, maar hoe ze strategisch kunnen starten, gebruikmakend van de mogelijkheden die nu al beschikbaar komen, zonder onnodige complexiteit of kosten, en waar AI meteen bedrijfswaarde kan opleveren.”
Jaren aan geheugencapaciteit
Hij benadrukt de enorme schaal van de huidige uitbouw van AI-infrastructuur: “De investeringen die vandaag worden gedaan, zijn vergelijkbaar met de productie van honderden miljoenen high-performance laptops met 16 GB geheugen, ruim meer dan wat de wereldwijde laptopmarkt in een volledig jaar levert. Het illustreert hoe AI-workloads de vraag naar rekenkracht en geheugencapaciteit in snel tempo hertekenen.”
De investeringen die vandaag worden gedaan, zijn vergelijkbaar met de productie van honderden miljoenen high-performance laptops met 16 GB geheugen.
Wilco Zwerus, Client Solutions Sales Director Dell Technologies
“Dat is echt gigantisch”, valt van den Langenberg bij. “Dat heeft natuurlijk zijn weerslag op de hardwaremarkt. De prijzen vliegen erdoor omhoog.”
Meerwaarde komt via software
Cooreman stelt vast dat al die investeringen naar infrastructuur en chips gaan. “Maar uiteindelijk wordt het geld verdiend door de consumptie van AI, via softwareapplicaties. De investeringen in de hardware kunnen maar opbrengen als organisaties wereldwijd de AI-capaciteit via software afnemen.”
De prognoses die de AI-giganten maken, zijn immers optimistisch. Cooreman: “Anthropic gaat bijvoorbeeld uit van een exponentiële groei van factor tien per jaar. Zo’n bedrijf bestelt nu al, uit vrees binnen enkele jaren niet toe te komen. Maar als die groei niet aanhoudt, en bedrijven niet op die schaal AI gaan afnemen, stel ik me de vraag wat er met al die investeringen gaat gebeuren.”
Uiteindelijk wordt het geld verdiend door de consumptie van AI, via softwareapplicaties.
Gianni Cooreman, Senior Director Solution Engineering Salesforce Benelux
Cooreman benadert de AI-boom vanuit het belang van de eindklanten. “Die moeten er waarde uit gaan halen.” De echte meerwaarde van AI komt met andere woorden voort uit software die de technologie gebruikt op een manier die meerwaarde creëert.
De kost van tokens
Van Vlasselaer voegt nog wat meer nuance toe. “De vraag is of Large Language Models (LLM’s) wel altijd de juiste oplossing zijn. Het gebruik van die modellen is heel kostelijk.”
“De vraag is of Large Language Models (LLM’s) wel altijd de juiste oplossing zijn. Het gebruik van die modellen is heel kostelijk
Véronique Van Vlasselaer, Head of AI & Data Science SAS EMEA,
Dat ziet Zwerus ook. “Ik voorspel dat managers de komende jaren niet alleen een FTE-budget (full time equivalent ) zullen krijgen, maar ook een tokenbudget.” “Het aantal tokens dat je nodig hebt om een mens te evenaren, zal ervoor zorgen dat je niet noodzakelijk goedkoper uitkomt door AI te omarmen”, voegt Dresselaers toe. De experts argumenteren dan ook dat een goede AI-strategie niet puur om efficiëntie draait, maar op een strategische visie rust waarbij je processen via AI krachtiger maakt.
Niet altijd met een LLM
“En hebben we daar altijd AI-agenten of copiloten voor nodig”, vraagt Van Vlasselaer zich af. “Sommige processen kan je heel eenvoudig automatiseren via traditionele AI in de plaats van generatieve AI en LLM’s. Er zijn zoveel processen die wel gebruik maken van standaard data en daar heb je niet noodzakelijk LLM’s voor nodig.”
Dat benadrukt ook Dresselaers. “AI doe je niet omwille van AI. Je kan overal AI naar gooien, maar dat is geen goed idee. De echte winst van AI komt uit de adoptie. De technologie moet in eerste instantie bestaande processen verbeteren.”
Je kan overal AI naar gooien, maar dat is geen goed idee.
Joris Dresselaers, Business Area Director Visma
Hij wijst als voorbeeld naar drukbezette accountants: een knelpuntberoep. “Die willen geen extra tool of scherm. Wat ze wel willen is een functie in de tools die ze gebruiken, die hun leven eenvoudiger maakt en waarmee ze tijd winnen.”
Ten koste van lokale AI
Een duurzame implementatie van AI is met andere woorden niet altijd aan krachtige en dure LLM’s gekoppeld. Die investeringen hypothekeren bovendien de beschikbaarheid van hardware voor lokale AI. “Er zijn heel wat voordelen aan inferentie aan de edge”, verduidelijkt van den Langenberg. “Zo heb je geen latency.” Hij verwijst daarbij niet alleen naar lokale AI op een laptop, maar ook op een lokale server ter ondersteuning van bijvoorbeeld een geautomatiseerd productieproces.
Er zijn heel wat voordelen aan inferentie aan de edge.
Matthijs van den Langenberg, AI Adoption Lead Benelux Lenovo
In dergelijke gevallen is het immers niet zo interessant om data naar een server te sturen. Ook wat privacy betreft heeft lokale AI een voordeel. Opnieuw gaat het hier om een uitrol van AI die niet noodzakelijk gekoppeld is aan de grote AI-datacenters, of er zelfs hinder van ondervindt.
Veelzijdige toolbox
Rond de tafel is iedereen het eens dat AI meer is dan een hype. Van den Langenberg vermoedt dat de technologie de hype-piek van de Gartner hype-cyclus intussen al voorbij is, en de tijd van duurzame implementatie aanbreekt. Dat betekent volgens alle aanwezigen dat AI ingezet kan worden om processen te verbeteren of een probleem op te lossen.
AI is een één van de vele tools in de toolbox waarmee je problemen binnen een organisatie kan oplossen. “Het is een krachtige tool die menselijke expertise aanvult”, aldus Zwerus. Van Vlasselaer voegt toe: “Generatieve AI is een volgende stap richting een meer intelligente manier voor analyse in processen.”
Meer dan miljardeninvesteringen in infrastructuur
In die context is er ruimte voor AI geïntegreerd in bestaande (SaaS)-tools, efficiënte AI die minder tokens kost, klassieke AI- en analyse die nog een stuk efficiënter is en zelfs geen LLM vereist, of lokale AI wanneer dat een logische keuze is.
Hoe dan ook moeten implementaties het gevolg zijn van een doordachte strategie. De immense investeringen in AI-datacenters, vooral dan in de VS, staan toch een beetje haaks op deze aanzienlijk meer nuchtere blik op de meerwaarde die AI bedrijven echt kan bieden.
Dit is het tweede artikel in een reeks van drie naar aanleiding van onze ronde tafel rond AI in de praktijk. Klik hier om de themapagina te bezoeken met de andere artikels, de video en onze partners.