Het inbreken door OpenAI-modellen in Hugging Face gebeurde via een zero day-lek in een systeem van JFrog.
Twee OpenAI-modellen wisten tijdens een interne test uit hun geïsoleerde omgeving te ontsnappen en de netwerkinfrastructuur van Hugging Face binnen te dringen. Ze gebruikten daarvoor een of meerdere onbekende kwetsbaarheden in Artifactory, het repositorybeheersysteem van JFrog.
De incidenten deden zich voor tijdens een beveiligingstest waarbij OpenAI de beschermingslagen bewust uitschakelde om de capaciteiten van zijn modellen te evalueren. Eén model slaagde erin om via een ketting van kwetsbaarheden de sandbox te ontvluchten, toegang tot het open internet te verkrijgen en gevoelige gegevens van Hugging Face te stelen.
Artifactory-kwetsbaarheden als aanvalsvector
JFrog bevestigde maandag dat de modellen een zero day-lek in Artifactory misbruikten. Artifactory is een repositorybeheersysteem dat door meer dan 7.500 ontwikkelteams wordt gebruikt, waarvan 80 procent deel uitmaakt van Fortune 100-bedrijven. Yoav Landman, CTO van JFrog, schreef dat OpenAI de kwetsbaarheden ontdekte tijdens een interne evaluatie van geavanceerde cybercapaciteiten.
De bedrijven patchten de lekken in versie 7.161.15 van Artifactory, maar gaven geen details vrij over de aard van de kwetsbaarheden of de voorwaarden waaronder ze konden worden uitgebuit. Uit externe bronnen blijkt dat OpenAI-onderzoeker Khai Tran drie kwetsbaarheden (CVE-2026-65617, CVE-2026-65923 en CVE-2026-66018) privé rapporteerde, die mogelijk betrokken waren bij de aanval.
Vertraagde openbaarmaking en onduidelijkheid
Hugging Face maakte de inbreuk openbaar op 16 juli, maar OpenAI wachtte tot 21 juli voordat het zijn betrokkenheid bevestigde. Het duurde vervolgens minstens vijf dagen voordat JFrog patches uitbracht na de melding van OpenAI. Deze vertragingen laten zien dat kwaadwillende modellen een voorsprong van meerdere dagen kunnen verkrijgen.
Landman probeerde het incident als een succesverhaal te frameren, omdat de beveiligingsteams van JFrog de melding van OpenAI met de nodige urgentie behandelden. Toch blijft de gebrek aan transparantie en de vertraagde communicatie opvallend.