Uit onderzoek van Veeam blijkt dat organisaties in EMEA te maken hebben met ‘shadow agents’ en een gebrek aan toezicht op AI-workflows.
Organisaties in EMEA ervaren steeds meer uitdagingen door de opkomst van autonoom opererende AI-agenten binnen hun bedrijfsprocessen. Vooral het gebrek aan toezicht en controle over deze ‘shadow agents’ tot groeiende bezorgdheid leidt bij zowel IT-afdelingen als bestuurskamers, volgens onderzoek van Veeam. Bedrijven worden geconfronteerd met een versnipperde aanpak rond AI-governance, waarbij regelgeving en persoonlijke aansprakelijkheid centraal staan.
Shaduwagenten
70 procent van de organisaties in EMEA erkent dat geautomatiseerde AI-workflows soms zonder toezicht omgaan met gevoelige bedrijfsgegevens. Daarnaast geeft 67 procent aan dat medewerkers zelf AI-workflows opzetten die buiten het zicht van IT blijven. Uit een ander recent onderzoek van WatchGuard Technologies blijkt bovendien dat 64 procent van de werknemers AI-tools zonder toezicht gebruikt.
Deze zogenaamde ‘shadow agents’ vormen een directe bedreiging voor dataprotectie en compliance, doordat ze beveiligingsmaatregelen kunnen omzeilen en gevoelige informatie onbeschermd laten.
De problemen zijn niet overal gelijk verdeeld. Vooral in Duitsland geeft 81 procent van de leidinggevenden toe dat onbeheerde AI-workflows interageren met kritieke data, terwijl in het Verenigd Koninkrijk 75 procent onvoldoende zicht heeft op de omgang met gevoelige data door AI-agenten. Ondanks pogingen om meer controle in te bouwen, verspreiden shadow agents zich sneller dan governance kan volgen.
Druk vanuit regelgeving
De introductie van strengere regelgeving, waaronder de nieuwe EU AI Act, zorgt voor meer aandacht voor AI-governance op directieniveau. Zo valt 58 procent van de organisaties inmiddels onder nieuwe wetgeving omtrent bedrijfsverantwoordelijkheid. Toch blijft de rolverdeling onduidelijk: twaalf procent van de organisaties weet niet precies waar individuele verantwoordelijkheden liggen.
Deze onzekerheid veroorzaakt stress bij bestuurders. 40 procent maakt zich zorgen over persoonlijke aansprakelijkheid, 39 procent merkt toegenomen toezicht door de raad van bestuur en 32 procent ervaart spanningen binnen het directieteam. Tegelijkertijd ontstaat er meer afstemming en focus op cyberweerbaarheid, wat volgens Veeam kan bijdragen aan beter databeheer.
Verschillen in aanpak
Bedrijven in de EMEA-regio reageren verschillend op de uitdagingen. Zo bouwt 41 procent van de organisaties eigen, lokale of soevereine AI-modellen om meer grip te krijgen op shadow AI. Daarnaast kiest 49 procent voor een hybride benadering: lokale modellen voor gevoelige data en openbare modellen voor minder kritieke toepassingen.
In het Midden-Oosten en Afrika vertrouwt 41 procent van de organisaties echter volledig op publieke AI-leveranciers. Dit verschil hangt samen met de impact van EU-regelgeving, die vooral Europese bedrijven aanzet tot strengere controle. Toch blijkt uit het onderzoek dat het toezicht op duizenden autonome agenten moeilijk schaalbaar is, waardoor basisvragen rond databeheer en -beveiliging steeds belangrijker worden.