Inserito il: Dec 1, 2019
Gli operatori di Amazon SageMaker per Kubernetes permettono agli sviluppatori e ai data scientist che usano Kubernetes di addestrare, ottimizzare e distribuire con maggiore facilità i modelli di machine learning in Amazon SageMaker.
I clienti adoperano Kubernetes, un sistema di orchestrazione di contenitori per uso generico, al fine di configurare pipeline ripetibili e mantenere un maggiore livello di controllo e portabilità rispetto ai carichi di lavoro. Tuttavia, quando si eseguono carichi di lavoro di machine learning in Kubernetes, è necessario anche gestire e ottimizzare l'infrastruttura di machine learning alla base, garantire disponibilità e affidabilità elevate, fornire strumenti di machine learning per aumentare la produttività dei data scientist e adempiere ai requisiti di sicurezza e regolamentazione appropriati. Gli operatori di Amazon SageMaker per Kubernetes consentono di invocare SageMaker usando l'API Kubernetes o strumenti Kubernetes come kubectl per creare e interagire con le loro attività di machine learning in SageMaker. In questo modo, i clienti di Kubernetes possono approfittare della portabilità e della standardizzazione di Kubernetes ed EKS, oltre che dei vantaggi di servizi di machine learning completamente gestiti con Amazon SageMaker.
I clienti possono usare gli operatori Amazon SageMaker per l'addestramento di modelli, le ottimizzazioni di iperparametri per modelli, l'inferenza in tempo reale e l'inferenza in batch. Per l'addestramento di modelli, gli utenti di Kubernetes ora possono sfruttare tutti i vantaggi dell'addestramento di modelli di machine learning completamente gestito in SageMaker, tra cui Managed Spot Training, per risparmiare fino al 90% in termini di costi, e l'addestramento distribuito per ridurre i tempi di addestramento attraverso lo scaling su vari nodi GPU. Le risorse di elaborazione sono fornite solo quando richiesto, scalate all'occorrenza e si arrestano in automatico una volta completate le attività, in modo da garantire un utilizzo che si avvicina al 100%. Per la regolazione iperparametrica, i clienti possono usare la funzione di ottimizzazione automatica dei modelli di SageMaker e risparmiare così ai data scientist giorni o addirittura settimane per affinare la precisione dei modelli. Inoltre possono usare istanze Spot per l'ottimizzazione automatica dei modelli. Per l'inferenza è possibile usare gli operatori di SageMaker allo scopo di distribuire i modelli addestrati in SageMaker a cluster di dimensionamento automatico completamente gestiti, sparsi in varie zone di disponibilità, in modo da offrire prestazioni elevate e una disponibilità ottimale per la previsione in tempo reale o in batch.
Gli operatori di Amazon SageMaker per Kubernetes sono attualmente disponibili al pubblico nelle regioni Stati Uniti orientali (Ohio), Stati Uniti orientali (Virginia settentrionale), Stati Uniti occidentali (Oregon) e UE (Irlanda). Puoi scoprire il funzionamento del servizio seguendo i tutorial passo passo nella nostra guida per l'utente e nel repository GitHub.