Hackers richten zich steeds vaker op AI-infrastructuur en -systemen via klassieke kwetsbaarheden en nieuwe AI-specifieke aanvallen.
Hackers richten zich steeds vaker op de fundamenten van AI-infrastructuur. Dat blijkt uit het Trend Micro State of AI Security Report voor de eerste helft van 2025. Daarom omarmt de beveiligingssector AI intussen als een relevante aanvalsvector. Tijdens het hacking-event Pwn2Own in Berlijn werden bijvoorbeeld voor het eerst AI-specifieke doelwitten getest.
Dat leverde resultaten. Onderzoekers ontdekten 28 nieuwe zero day-kwetsbaarheden, waarvan zeven specifiek in AI-componenten. Het ging onder meer om vector databases zoals Chroma DB, inferentieservers zoals Nvidia Triton en key-value stores zoals Redis. Veel van deze systemen bleken onbeschermd toegankelijk via het internet of gebruikten verouderde softwaremodules, waardoor aanvallers relatief eenvoudig toegang konden krijgen.
Trend Micro wijst erop dat zeven kwetsbaarheden specifiek gekoppeld waren aan AI-infrastructuur. De andere bugs hadden een bredere impact en waren dus niet exclusief aan AI gekoppeld, maar zaten wel mee in de AI-infrastructuurstack.
AI-specifieke kwetsbaarheden
Naast deze aanvallen op de infrastructuur zelf, nemen ook de AI-specifieke kwetsbaarheden toe. In het rapport waarschuwt Trend Micro voor geavanceerde prompt injections, waarbij aanvallers opdrachten verstoppen in content die AI-agents automatisch verwerken. Ook stored prompt injections, waarbij malafide instructies in databases of vector stores worden opgeslagen, vormen een risico.
Kwetsbaarheden zoals CVE-2025-32711 in Microsoft 365 Copilot tonen daarnaast aan dat AI-agents gevoelig zijn voor AI command injections, wat kan leiden tot datadiefstal. Technieken als Prompt Leakage (PLeak), waarbij systeemprompts en fine-tuningdata worden onthuld, en aanvallen op chain-of-thought-reasoning vergroten het risico verder.
Gekende beveiligingsmaatregelen
Volgens Trend Micro moeten organisaties AI-systemen vanaf de basis beveiligen. Het rapport adviseert onder andere zero trust-architectuur, het bijhouden van een software-inventaris, regelmatige patches en audits, en proactieve monitoring via XDR- en SIEM-platformen.
lees ook
Trend Micro lanceert samen met Dell en Nvidia geïntegreerde beveiligingsoplossingen voor AI-infrastructuur
In feite verschillen de best practices voor een veilige AI-implementatie dus niet van de algemene richtlijnen voor beveiliging. Met de hype rond AI en de drang van ondernemingen om toch maar snel projecten op te zetten, dreigt de focus op veiligheid soms wel naar de achterbank verwezen te worden. Het rapport illustreert nochtans dat AI en AI-infrastructuur wel degelijk misbruikt kunnen worden als aanvalsvector. Trend Micro wil zich graag positioneren als beveiligingsexpert met kennis en ervaring in AI. Het rapport dient daartoe, net als een eerder gelanceerde geïntegreerde oplossing met Nvidia.