Sophos heeft onderzoek gevoerd bij IT-leiders naar generatieve AI (genAI) en of de fouten die het maakt de veiligheid van organisaties kan ondermijnen.
Uit een onderzoek van Sophos blijkt dat 89 procent van de IT-leiders zich zorgen maakt over fouten in generatieve AI (GenAI) die de cyberbeveiligingsstrategie van hun organisatie kunnen ondermijnen. Ondanks deze bezorgdheid heeft 65 procent van de respondenten al GenAI geïmplementeerd in hun beveiligingsaanpak.
GenAI en cybercriminaliteit
Het rapport, getiteld Beyond the Hype: The Business Reality of AI for Cybersecurity, werd samengesteld op basis van een bevraging van 400 IT-leiders. Naast de bezorgdheid over de betrouwbaarheid van GenAI-cyberbeveiligingstools, vrezen 87 procent van de IT-leiders dat er een gebrek aan verantwoordelijkheid ontstaat bij een overmatig vertrouwen op AI. Verder geeft 75 procent aan dat het moeilijk is om de kosten van GenAI in cyberbeveiligingsproducten te kwantificeren. Toch denkt 87 procent dat de besparingen door GenAI de kosten zullen compenseren.
Een tweede onderzoek van Sophos X-Ops, Cybercriminals Still Not Getting on Board the AI Train (Yet), richt zich op hoe cybercriminelen AI inzetten. Hoewel er nog veel scepsis is in ondergrondse fora, gebruiken sommigen GenAI al voor geautomatiseerde taken, zoals het creëren van bulk e-mails en data-analyse. Anderen verwerken de technologie in spam- en social engineering toolkits.
Verschillende prioriteiten per organisatiegrootte
Het onderzoek wijst uit dat organisaties afhankelijk van hun grootte andere prioriteiten stellen voor het gebruik van GenAI. Grote bedrijven (met meer dan 1.000 werknemers) richten zich vooral op betere bescherming, terwijl kleinere organisaties (50-99 medewerkers) de focus leggen op het verminderen van burn-out bij beveiligingsprofessionals. Tegelijk maakt 84 procent van de IT-leiders zich zorgen over de druk om het aantal beveiligingsmedewerkers te verminderen door onrealistische verwachtingen over AI als vervanging voor menselijke experts.
Sophos benadrukt dat hoewel AI een waardevolle aanvulling kan zijn in cyberbeveiliging, menselijk toezicht essentieel blijft. “We hebben machines niet echt geleerd om te denken, we hebben ze simpelweg de context gegeven om grote hoeveelheden data te verwerken”, zegt Chester Wisniewski, director en global field CTO bij Sophos. Volgens hem ligt de sleutel tot succes in het combineren van AI-automatisering met menselijk inzicht.