De hype rond OpenAI’s ChatGPT blijkt niet zonder risico te zijn. Hackers hebben ontdekt hoe ze de tool kunnen misbruiken om kwaadaardige code te schrijven en phishingmails op te stellen.
Sinds OpenAi eind november een demo van ChatGPT openstelde voor het grote publiek, is het niet meer stil geweest rond de AI-tool. De populariteit van ChatGPT roept ook heel wat ethische vraagstukken op, en die blijken helemaal niet onterecht te zijn. Beveiligingsbedrijf Check Point Research beschrijft hoe ook cybercriminelen de troeven van de chatbot hebben ontdekt.
ChatGPT kan je helpen met allerlei taken, zoals het schrijven van e-mails en coderen. Laat dat voor de doorsnee cyberaanval twee net zeer handige vaardigheden zijn. In een onderzoekblog deelt Check Point enkele posts op Dark Web-fora waarin amateurhackers code en scripts met elkaar delen die ze gegeneerd hebben met de hulp van ChatGPT.
Hulp voor hackers
Hoewel AI-gegeneerde code lang niet altijd van goede kwaliteit is, kan ChatGPT op deze manier onervaren hackers wel helpen om sneller malware te leren ontwikkelen. In een van de post gedeeld door CheckPoint geeft een hacker ook aan dat ChatGPT hem een goede aanzet gaf om het script te schrijven.
Dit ligt in lijn met eerdere conclusies van de onderzoekers. Check Point sloeg er in december in om met de hulp van ChatGPT en Codex, een andere publiek beschikbare tool van OpenAI om codes te schrijven, een phishingmail met een malware-bestand te ontwikkelen zonder zelf één lijn code te hoeven schrijven.
In principe verbiedt OpenAI het gebruik van zijn tools voor misdadige doeleinden. Toch konden de onderzoekers door te spelen met de formulering van de verzoeken beide tools mee krijgen in hun verhaal. Veel meer dan een waarschuwing dat de content in strijd is met de gebruiksvoorwaarden kregen ze niet te zien. Hackers zullen dus ook wel ontdekken hoe ze ChatGPT en co medeplichtig kunnen maken.
Is ChatGPT een gevaar voor cyberveiligheid?
Dat wil Check Point voorlopig nog niet gezegd hebben. Het is nog veel te vroeg om te voorspellen of aanvallers ook effectief gebruik zullen maken van AI-codes in praktijksituaties. Check Point merkt ook op dat als AI aanvallers kan helpen bij het schrijven van codes, het op termijn ook een bijdrage kan leveren voor bescherming tegen cyberaanvallen.
Het nieuws zal de verdere integratie van artificiële intelligentie dan ook niet onmiddellijk ondermijnen. Microsoft ziet veel potentieel in de technologie van OpenAI, waarin het ook geïnvesteerd heeft, en wil ChatGPT-functies integreren in Office en zoekmachine Bing.