Safetensors is als nieuw project toegetreden tot de PyTorch Foundation. Het formaat, ontwikkeld door Hugging Face, moet de distributie van AI-modellen veiliger maken door risico’s op willekeurige code-uitvoering weg te nemen.
Safetensors treedt toe tot de PyTorch Foundation. Dat nieuws komt er een dag nadat Helion ook al in de stichting stapte, en wordt eveneens aangekondigd tijdens de eerste Europese PyTorch-conferentie in Parijs.
Met de toetreding maakt de PyTorch Foundation vaart in zijn ambitie om te groeien. “Het is niet alleen belangrijk om de capaciteiten uit te breiden van bestaande projecten onder de vleugels van de Foundation, maar we moeten ook volledig nieuwe projecten toevoegen”, zegt Executive Director Mark Collier daarover. Safetensors vervoegt PyTorch, DeepSpeed, Ray, vLLM en Helion in de stichting.
Veiliger formaat voor LLM’s
Safetensors is een serialisatieformaat voor tensors en metadata in machinelearning-modellen. Het project wil een bekend risico uit oudere pickle-gebaseerde formaten aanpakken, waarbij modelbestanden misbruikt kunnen worden om arbitraire, niet-vertrouwde code uit te voeren zodra ontwikkeld door Hugging Face ze laden.
“Oude formaten laten het in sommige gevallen toe om code te injecteren in open weight-modellen”, verduidelijkt Collier. “SafeTensors is een nieuw formaat om modellen te publiceren, zodat duidelijk is dat ze zijn wat ze beweren te zijn.”
Nieuwe standaard
“SafeTensors leent zich zo om een standaard te worden”, gaat hij verder. “De hele sector wil dat dit probleem opgelost wordt. Dat hoeft geen duizend keer te gebeuren: één keer volstaat. Een oplossing onder de armen van een non profit zoals de PyTorch Foundation kan voor een brede adoptie zorgen. Bovendien maken vele contributies de standaard alleen maar veiliger.”
Safetensors werd ontwikkeld en wordt onderhouden door Hugging Face. In het open source ML-ecosysteem is het intussen uitgegroeid tot een breed gebruikt formaat voor de distributie van modellen en bijhorende metadata.
Meer dan PyTorch
Met de opname in de PyTorch Foundation krijgt het project een meer formele plaats binnen het open source AI-landschap. De Foundation van zijn kant cementeert zich verder als een organisatie die niet alleen het PyTorch-raamwerk ondersteunt, maar een groeiend ecosysteem aan open tools die open AI mogelijk maken.