Een nieuw open Chinees AI-model zou de prestaties van Mythos van Anthropic evenaren wanneer het op cyberbeveiliging aankomt. Dat stelt het nut van de Amerikaanse restricties voor dat model verder in vraag.
In China heeft Z.ai een nieuw open AI-model gelanceerd: GLM-5.2. Dat is een open-weight-model. Het LLM is met andere woorden vrij beschikbaar voor iedereen om te downloaden en te gebruiken. Open modellen lopen wat capaciteiten betreft typisch wat achter op de zogenaamde frontier-modellen van Anthropic en OpenAI, maar dit exemplaar zou inzake cyberbeveiliging wel tot de absolute top behoren.
Beveiligingsonderzoekers hebben volgens Wall Street Journal vastgesteld dat het de recentste Amerikaanse modellen waaronder Mythos evenaart als het beveiligingskwetsbaarheden moet zoeken. In andere taken zou GLM-5.2 wel nog minder goed presteren.
De capaciteit van een LLM om bugs te detecteren en eventueel aan elkaar te schakelen om tot een kwetsbaarheid te komen, houdt risico’s in. Beveiligingsteams kunnen zo’n AI-model gebruiken om problemen tijdig op te lossen, maar in de verkeerde handen kunnen hackers het ook misbruiken om geavanceerde aanvallen uit te werken waartegen nog geen remedie bestaat.
Beperkingen
De Amerikaanse overheid heeft naar eigen zeggen daarom exportrestricties opgelegd voor Fable 5 en variant Mythos 5 van Anthropic. Die krachtige modellen zouden te gevaarlijk zijn om los te laten op het grote publiek.
Kanttekening daarbij is wel dat Anthropic voor Fable 5 de nodige mechanismen had ingebouwd om misbruik te voorkomen, en de overheid de restricties eenzijdig en zonder transparante rechtvaardiging heeft doorgevoerd. Bovendien stelt het Witte Huis vast dat de LLM’s wel veilig genoeg zijn voor gebruik door mensen met de Amerikaanse nationaliteit.
Hoe dan ook gebruiken de VS het beveiligingsargument op de wereldwijde uitrol van AI te vertragen en modellen binnen de landsgrenzen te houden. Dat een Chinees bedrijf nu een open model lanceert dat gelijkaardige capaciteiten heeft, toont de wankele fundering van die strategie. De VS gaan ervan uit dat de eigen bedrijven de absolute leiders in AI zijn en zullen blijven, maar Chinese onderzoekers slagen er toch in om bij te benen. Dat lukt bovendien zonder toegang tot de meest geavanceerde hardware van Nvidia.