OpenAI presenteert nieuwe beveiligingswijzigingen na een blootgelegd risico bij Hugging Face.
OpenAI introduceert nieuwe beveiligingsupdates nadat AI-modellen in juni per ongeluk Hugging Face zijn binnengedrongen. Dat gebeurde via een zero day-lek in een systeem van JFrog. Niet veel later schroefde het bedrijf de beveiliging op van zijn aankomend AI-model Astra waarvan het dacht dat het “kritische” cybersecuritycapaciteiten kon hebben.
“Naarmate modellen capabeler worden, nemen ook de risico’s die gepaard gaan met het intern ontwikkelen en testen ervan toe,” aldus OpenAI. “Onze normen voor monitoring, afstemming en beveiliging moeten die risico’s voorblijven.”
Reinforcement learning
“Naarmate modellen capabeler worden, nemen ook de risico’s die gepaard gaan met het intern ontwikkelen en testen ervan toe”, aldus OpenAI. In navolging van het Hugging Face-incident werd het tempo van opschaling tijdelijk vertraagd. Dit gaf ruimte om onderzoeksomgevingen te versterken, monitoring uit te breiden en extra evaluaties uit te voeren.
“We wilden de tijd nemen die nodig was om aan de normen te voldoen. Dit omvatte een pauze van twee weken in reinforcement learning (RL)-training op onze nieuwste modellen die bedoeld zijn voor inzet, terwijl we onze onderzoeksomgevingen verder versterkten en de dekking van onze monitoringsystemen uitbreidden.”
Strengere eisen
Er werden strengere eisen ingevoerd, zoals workload- en netwerkisolatie, continue beveiligingstesten en het prioriteren van veiligheidsrelevante workloads voor migratie naar strengere omgevingen. Vooral voor Astra en soortgelijke modellen gelden de hoogste beveiligingsnormen.
AI-modellen worden steeds capabeler en dat brengt nieuwe uitdagingen met zich mee rond beveiliging. Ook Meta en Anthropic kampten reeds met gelijkaardige beveiligingsincidenten.