Wat al lang gevreesd werd door cybersecurityspecialisten, wordt nu ook bevestigd door Microsoft en OpenAI. Hackers maken actief gebruik van ChatGPT en consoorten om cyberaanvallen op te zetten.
Microsoft en OpenAI komen met een gezamenlijk onderzoek naar buiten over het gebruik van AI-technologie door hackers. Het is zeker niet de eerste keer dat we horen dat AI een handig hulpmiddel kan zijn voor hackers, maar beide bedrijven beschrijven concrete voorbeelden van hoe de diensten van OpenAI nu actief misbruikt worden. Dat kan voor verschillende doeleinden, zo blijkt.
Scripts schrijven en phishing
Microsoft start zijn overzicht met een voorbeeld van Forest Blizzard, een Russisch collectief door wie het (net zoals HPE) recent zelf voor schut werd gezet. De hackers zouden nauwe banden met het Kremlin en zich ook actief mengen in de Oekraïne-oorlog. Hun activiteiten strekken zich uit over verschillende sectoren, waaronder defensie, transport en logistiek, overheid, energie, NGO’s en informatietechnologie. De groep maakt gebruik van ChatGPT en LLM-gebaseerde codeerapplicaties om scripts voor verschillende typen cyberaanvallen te schrijven, zoals bestandsmanipulatie.
Van Rusland gaat het vervolgens naar Noord-Korea, Iran en China. Een Noord-Koreaanse groep Emerald Sleet zet AI-hulp in om overtuigendere phishingmails op te stellen. Het Iraanse collectief Crimson Sandstom gebruikt OpenAI-diensten om schadelijke .NET-code te ontwikkelen en de praktijken van twee Chinese hackersgroeperingen leren dat AI ook ingezet wordt om fouten in codes op te sporen en om te leren hoe cyberbeveiligingstools werken en omzeild kunnen worden.
lees ook
Jobzoekende IT’ers opgelet: is het een vacature, of een Noord-Koreaanse valstrik?
Microsoft en OpenAI delen deze kennis niet om hackers op ideeën te brengen, maar net om andere belanghebbende partijen te waarschuwen over wat ze zien gebeuren. Beide bedrijven beloven die kennis ook te gebruiken om de veiligheidsmechanismen van AI-toepassingen en api’s te verbeteren, en verdachte accounts sneller op te sporen en onschadelijk te maken.