Open AI-modellen kunnen negen van de tien workflow-taken binnen bedrijven vandaag al even goed uitvoeren als veel duurdere frontier-modellen, aldus Gartner.
In de aanloop naar de beursgang van Anthropic ondergraaft Gartner de voorspellingen van de grote Amerikaanse AI-labs. Waar die ervan uitgaan dat de vraag naar hun modellen zal stijgen, denkt Gartner dat ze net irrelevant zullen worden voor 90 procent van de zakelijke AI-workflows. Dat argumenteren analisten van het bedrijf in een paper.
Trends bevestigd
Met de analyse onderschrijft Gartner trends die al verschillende maanden zichtbaar zijn. Wereldwijd verschuiven meer en meer AI-gedreven workloads van frontier-modellen naar goedkopere LLM’s of zelfs open weight-modellen. Terzelfdertijd merken grote SaaS-bedrijven op dat LLM’s zelf gemeengoed worden. Het harnas rond de LLM’s, dat de taken correct verdeelt, context voorziet en mee instaat voor beveiliging, wordt volgens hen belangrijker dan het LLM zelf.
Negen van de tien AI-gedreven stappen in workflows werken even goed met open modellen.
Dat bevestigt Gartner nu in een paper (Open-Weight Models Will Run 90% of Enterprise Agentic Workflow Steps). De analisten stellen vast dat negen van de tien stappen in workflows voor AI-agenten al uitgevoerd kunnen worden door open weight-modellen, en dat aan een kwaliteit die gelijk is aan wat gesloten modellen van frontier-labs opleveren.
Aanzienlijk goedkoper
Bovendien is de kostprijs een stuk lager; vergeleken met het goedkoopste geschikte LLM van een frontier-lab zoals Anthropic of OpenAI ligt de kostprijs voor het gebruik van open-weight-LLM’s vier keer lager. Vergeleken met het meest high-end LLM van zo’n lab noteren de analisten zelfs een besparing met factor 20.
Open modellen hebben de neiging iets meer pogingen uit te voeren vergeleken met frontier-modellen, om tot hetzelfde resultaat te komen. Wanneer Gartner dat in rekening brengt, levert de keuze voor open modellen nog steeds een besparing met factor vijf tot zes op.
Behoud van controle
Daar komt nog bij dat de besparing in zakelijke context vooral een bonus is. Er is immers nog een belangrijkere reden om voor open weight-LLM’s te kiezen boven gesloten frontier-modellen: controle. De workflows en de geschiedenis van stappen zijn waardevolle gegevens.
De besparing is in zakelijke context vooral een bonus, behoud van controle is nog belangrijker.
Met open LLM’s wordt de kennis daarrond opgebouwd binnen de onderneming. Wie frontier-LLM’s omarmt, sluist een deel van de kennis daar naartoe, zelfs wanneer het enkel over meta-gebruiksgegevens gaat.
Haaks op IPO-voorspellingen
De analyse van Gartner is geen toekomstvoorspelling, maar begint vanuit de situatie vandaag. De argumenten rond kost en controle liggen in lijn met de trend in de markt, maar staan haaks op de verwachtingen van bijvoorbeeld Anthropic. Anthropic verwacht in aanloop van zijn IPO dat klanten net meer AI zullen consumeren bij het bedrijf.
Als open alternatieven meer controle, een lagere prijs en een equivalente kwaliteit bieden, lijkt dat toch hoegenaamd geen zekerheid. Argumenten rond eenvoud en beheer gaan evenmin op: de complexiteit van de implementatie van AI ligt vandaag vooral op het niveau van het harnas, waarin LLM’s wisselen niet al te moeilijk is.
Frontier wordt research
Gartner ziet nog wel een rol voor de frontier-labs, maar die ligt niet in lijn met de biljoenenwaardering waar de labo’s naar op zoek zijn. De frontier-modellen zouden in de nabije toekomst eerder dienen als motor voor onderzoek en ontwikkeling. Frontier-LLM’s zouden zo richting het domein van wetenschappelijk onderzoek geduwd worden, terwijl open weight-modellen de capaciteiten naar de praktijk zullen brengen.
Ook dat ligt eigenlijk al in lijn met wat vandaag gebeurt. De krachtigste LLM’s van Anthropic, Google of OpenAI zijn inderdaad grote kampioen in hun capaciteiten, maar nooit voor lang. Binnen het jaar verschijnen er steevast open modellen die een deel van de capaciteiten equivalent kunnen uitvoeren. Dergelijke LLM’s zijn veel geschikter binnen AI-gedreven workflows, beheerd door een harnas, dan grote dure alleskunners.
Kans voor EU
Vandaag zijn de meeste open weight-modellen Chinees, maar niet allemaal. Mistral, het grootste Europese AI-lab, heeft bijvoorbeeld pas Mistral Large 4, oftewel Le Chonk, open beschikbaar gemaakt. Dat model zou snel veel tractie vinden, vooral bij organisaties waar controle en soevereiniteit hoog op de agenda staan.