AWS introduceert acht nieuwe AI-aangedreven functies in SageMaker. Die moeten de end-to-end ontwikkeling en implementatie van ML-modellen vereenvoudigen.
Ter ere van AWS re:Invent 2022 krijgt SageMaker een van zijn grootste make-overs sinds de introductie in 2017. SageMaker is een cloudplatform dat is toegespitst op het ontwikkelen en trainen van machine learning-modellen in de cloud. Met in totaal acht nieuwe AI-aangedreven functies wil AWS de ML-levenscyclus verder stroomlijnen, van ontwikkeling en implementatie.
“De schaal waarop onze klanten vandaag machine learning inzetten, was enkele jaren geleden nog ondenkbaar. De cloud heeft machine learning veel toegankelijker gemaakt, maar het bouwen, trainen en implementeren van modellen bleef lang een tijdrovend proces. Met deze nieuwe capaciteiten voor SageMaker maken we het klanten eenvoudiger dan ooit om het potentieel van machine learning te benutten”, zegt Bratin Saha, hoofd van AI en ML bij AWS.
Notitieboek
Een van de componenten binnen SageMaker die AWS grondig onder handen neemt is Studio Notebooks, een platform dat je ondersteunt in het ontwikkelen van neurale netwerken. Zo speuren de algoritmen van het platform naar eventuele fouten in je data en geven ze suggesties om die op te lossen. Selecteer je een van de voorgestelde remedies, dan zal SageMaker die ook onmiddellijk voor je uitvoeren.
Voor je een neuraal netwerk gaat implementeren, wil je het natuurlijk eerst uitvoerig gaan testen. Hiervoor kunnen gebruikers een ‘schaduwtest’ uitvoeren met SageMaker. Bij een schaduwtest wordt een kopie van gebruikersverzoeken die naar de bestaande AI-software van het bedrijf gerepliceerd en naar het testnetwerk verzonden. Een monitoringsdashboard toont gegevens zoals de latentie en het foutpercentage waaraan dat verzoek verwerkt is door het model.
Zijn alle fouten uit het model gehaald, dan zal SageMaker je ook helpen met de implementatie van het neurale netwerk. Dit is vaak een ingewikkeld proces waarbij het netwerk moet ingepakt worden in een container. SageMaker zal dit manuele werk voor je overnemen en ook de nodige hardwareinfrastructuur voor de implementatie voorzien.
Tenslotte maakt Studio Notebooks samenwerking tussen verschillende ontwikkelingsteams eenvoudiger. Het zal voortaan mogelijk zijn om een gedeelde workflow aan te maken en data en codes van de ML-modellen onderling uit te wisselen.
Veiligheid boven alles
Cybersecurity is vandaag de dag voor veel bedrijven een topprioriteit en met nieuwe beveiligingsfuncties wil AWS verzekeren dat je ML-modellen voldoen aan alle veiligheidsnormen. SageMaker Role Manager centraliseert het beheer van de toegang tot ML-modellen, zodat eenvoudig kan beslist worden wie wel en niet aan de data kan.
Model Cards dienen dan weer om de softwareteams te helpen met het beheer van de data. Gegevens zoals de datasets die gebruikt worden om de modellen te trainen en de testresultaten kunnen opgeslagen worden op een centrale plaats zodat die altijd toegankelijk is voor de juiste personen.
De levenscyclus van een ML-model stopt niet na de implementatie en Model Dashboard focust zich dan ook op het beheer van de modellen nadat ze in gebruik zijn genomen. In dit dashboard kunnen beheerders de betrouwbaarheid van de modellen blijven opvolgen en ingrijpen bij eventuele fouten die aan de oppervlakte komen.
Tenslotte biedt SageMaker nu ook ondersteuning voor geo-gegevens uit externe bronnen, die omwille van hun complexiteit vaak niet kunnen verwerkt worden door algoritmische modellen. SageMaker zal deze gegevens automatisch vertalen naar vormen die zich beter verlenen voor verwerking.