Hoe hou je AI-agenten in toom voordat een prompt-injectie of een verdwaalde agent een productiesysteem onderuithaalt? Hun antwoord ligt op het kruispunt van probabilistische modellen en deterministische vangrails, met identiteit als ankerpunt.
Op Knowledge 26 in Las Vegas positioneert ServiceNow zichzelf als de AI-controletoren van een onderneming. Onder die positionering ligt een fundamentele securityvraag: hoe geef je AI-agenten genoeg autonomie om zinvol werk te doen, maar niet zoveel dat ze ongecontroleerd schade kunnen aanrichten?
We legden de vraag voor aan twee mensen die er dagelijks aan werken bij ServiceNow: Nenshad Bardoliwalla, GVP of AI Product Management en Bhakti Pitre, VP of Platform Security.
AI alleen is niet genoeg
Bardoliwalla maakte de overstap van Google Cloud naar ServiceNow omdat hij ervan overtuigd is dat de modellen zelf gaan commoditiseren. “De modellen zijn ongelooflijk krachtig. Maar op zichzelf zijn ze enkel toereikend voor bepaalde situaties binnen ondernemingen. Ze moeten verpakt worden in auditeerbaarheid, processen, workflows en routing.”
“Probabilistische systemen (AI-modellen die gokken op het meest waarschijnlijke antwoord) moet je verpakken in deterministische regelgeving (vaste regels en grenzen). Zonder dat heb je geen enkel middel om het in toom te houden.”
Hij illustreert dat met een voorbeeld dat in de praktijk al voorvalt: een aanvaller plakt een tekstfragment in een prompt waarin staat dat het wachtwoordbeleid gewijzigd is. Het model accepteert het en geeft toegang tot afgeschermde gegevens.
Er bestaan zeer weinig, misschien zelfs geen enkele situatie in ondernemingen waar een pure oplossing voor AI-agenten het juiste antwoord is
Nenshad Bardoliwalla, GVP of AI Product Management
De oplossing is volgens hem niet om het model slimmer te maken, maar om er via de AI Control Tower een laag rond te leggen die zo’n privilege-escalatie in real-time detecteert en blokkeert. De meest opvallende uitspraak komt wanneer we vragen naar de grootste misvatting bij CIO’s en CDO’s:
“Er bestaan zeer weinig, misschien zelfs geen enkele situatie in ondernemingen waar een pure oplossing voor AI-agenten het juiste antwoord is”, zegt Bardoliwalla. “Het is een probabilistische technologie. De meeste bedrijven en de meeste processen willen geen probabilistische processen.”
Het is een opmerkelijke uitspraak van iemand die hoofd van AI-producten is bij een bedrijf dat zichzelf positioneert als dé speler van AI-agenten in ondernemingen. Het toont dat de retoriek op het hoofdpodium en het gesprek met de pers twee verschillende registers zijn.
Van zero trust naar zero privileges
Bhakti Pitre benadrukt op Knowledge 26 dat zero trust voor menselijke identiteiten niet hetzelfde is als wat agenten nodig hebben.
“Zero trust gaat over minimale privileges. Wanneer ik idle ben, heb ik nog altijd bepaalde toegangsrechten, alleen tot een minimum beperkt. Bij zero privileges heb ik in idle-toestand geen enkele toegang. Pas wanneer ik als agent in actie schiet, krijg ik de rechten waarvoor ik geautoriseerd ben.”
Het is een interessante framing, maar geen ServiceNow-uitvinding. Het concept circuleert in 2026 in de bredere securityindustrie als “Zero Standing Privileges”. Onder andere CyberArk en Palo Alto Networks hebben er elk een eigen variant van. Wat ServiceNow er volgens Pitre uniek aan toevoegt, is de combinatie met de access graph van Veza en de cyber asset graph van Armis. Plus de zogenaamde kill switch in de AI Control Tower:
“Dingen zullen fout gaan, vooral in deze prille fase. Het is zoals met kinderen: wanneer ze opgroeien, maken ze fouten. Als ouder is het je verantwoordelijkheid om er vangrails rond te plaatsen. Datzelfde geldt voor AI: ingebouwde veiligheid, beheer en risico, plus de mogelijkheid om alles stop te zetten als het misloopt.”
De erkenning dat AI in productie ook fout zal gaan, is een eerlijker startpunt dan de “we hebben geen natte verf”-retoriek van CEO Bill McDermott op het hoofdpodium.
Evolutie als constante
Pitre maakt een uitstap naar Charles Darwin om de huidige AI-chaos te kaderen:
“Toen ik jong was, was The Origin of Species mijn favoriete boek. Ik herlees het nu opnieuw met AI in mijn achterhoofd. Wat ik er sterker dan ooit uithaal: evolutie is dé constante. Wij als menselijk ras hebben altijd overleefd omdat we wendbaar waren en open stonden voor verandering.”
Wij als menselijk ras hebben altijd overleefd omdat we wendbaar waren en open stonden voor verandering.
Bhakti Pitre, VP of Platform Security
Op de vraag wie verantwoordelijk is wanneer een agent zich misdraagt, antwoordt ze: “Het is onmogelijk voor een softwarevendor om exact te weten hoe je data ingezet wordt. Ik zie de data van mijn klanten niet, en dat hoort ook zo. Maar dat betekent ook dat ik niet onafhankelijk kan beweren wat de impact van een AI-proces zal zijn. Daarom zijn die vangrails zo cruciaal: het is gedeelde verantwoordelijkheid.”
Een eerlijke kanttekening die in marketingmateriaal vaak ontbreekt. ServiceNow levert de tools, maar wie de regels fout instelt, draagt zelf de gevolgen.
Onder de motorkap
De twee gesprekken laten zien hoe het ServiceNow-verhaal er onder de motorkap uitziet. Op het hoofdpodium klinken AI-agenten als een onstuitbare kracht, daarnaast weerklinkt veel meer voorzichtigheid door. Bardoliwalla geeft toe dat puur AI-agenten uitrollen in een onderneming bijna nooit het juiste antwoord is. Pitre erkent dat systemen in deze fase fouten zullen maken.
Dat genuanceerde verhaal staat in contrast met de positionering die het bedrijf in de markt zet. Het feit dat de zero privileges-aanpak ook door minstens een half dozijn andere securityleveranciers wordt geclaimd, illustreert dat ServiceNow het strijdperk niet alleen heeft.
De combinatie met workflow, CMDB (Configuration Management Database) en de overnames van Veza, Armis en Traceloop geeft het bedrijf wel een geloofwaardige claim om beheer op platformniveau te leveren.
Voor ondernemingen die nu beslissingen moeten nemen, zijn dit de bruikbaarste inzichten van de hele conferentie. Niet de beloftes over autonomie, maar de erkenning dat probabilistische systemen alleen nuttig worden als ze deterministisch gegrensd zijn. En dat verantwoordelijkheid altijd gedeeld blijft tussen platform en klant.