Medewerkers in de Benelux passen bijna een kwart van de AI-aanbevelingen aan of negeren die volledig. Ondanks betere AI-governance blijft de zakelijke impact achter.
Medewerkers in de Benelux wijken in gemiddeld 24 procent van de gevallen af van aanbevelingen die door AI-systemen worden gedaan. Dat blijkt uit het tweede Data and AI Impact Report: The New Economics of Trust van SAS, opgesteld met inzichten van IDC. De resultaten leggen een spanningsveld bloot tussen groeiende investeringen in betrouwbare AI en een bedrijfsimpact die nauwelijks meegroeit.
Volgens het rapport ontstaat een verborgen kostenpost wanneer medewerkers AI-uitkomsten niet kunnen vertrouwen of begrijpen. Zij moeten aanbevelingen dan controleren, zelf onderbouwen of handmatig corrigeren, waardoor een deel van de verwachte tijd- en productiviteitswinst wegvalt.
Uitlegbaarheid
Bijna de helft van de interventies op AI-adviezen (49,2%) komt doordat de output onvoldoende uitleg of transparantie biedt om erop te kunnen vertrouwen. Mogelijke bias is in 21,3 procent van de ingrepen de reden, terwijl feitelijke fouten slechts 9,8 procent verklaren. Medewerkers botsen dus vooral op een gebrek aan context, niet per se op flagrante foutieve resultaten.
De Trustworthiness Index voor Benelux-organisaties steeg in één jaar van 38,5 naar 55,6 punten. Die index meet onder meer datakwaliteit, modelgovernance, uitlegbaarheid en verantwoordelijkheid. Toch bleef de Impact Index, die de bedrijfsimpact van AI in kaart brengt, zo goed als vlak en zakte licht van 47,5 naar 46,9 punten. Betere governance vertaalt zich vandaag dus nog niet automatisch naar merkbare meerwaarde.
Governance groeit, impact blijft achter
Volgens het rapport hebben organisaties in de Benelux duidelijke stappen gezet rond datakwaliteit, toezicht, uitlegbaarheid en verantwoordelijkheid, maar blijft de regio onder de wereldwijde benchmarks. Slechts 4,6 procent van de organisaties verplicht het gebruik van tools die AI-uitkomsten verklaren bij elk project. Dat staat haaks op het feit dat onvoldoende uitleg de belangrijkste reden is om AI-aanbevelingen te negeren.
“Wanneer AI werkt, kan de impact enorm zijn”, zegt Bryan Harris, CTO bij SAS. “Tegelijkertijd is aangetoond dat geavanceerde agenten bij complexe taken foutpercentages van meer dan 25 procent kunnen hebben. Voor belangrijke beslissingen is dat onaanvaardbaar. Om nauwkeurigheid en herhaalbaarheid te realiseren, moeten organisaties domeinexpertise integreren in agentic workflows en mensen centraal houden in governance en toezicht. Organisaties die daarin slagen, kunnen de vertrouwenskloof verkleinen en met AI een concurrentievoordeel behalen.”