Amazon SageMaker AI supporta ora le immagini indicizzate da SOCI per l'avvio dei job di addestramento in pochi secondi
Oggi, Amazon SageMaker AI annuncia il supporto per le immagini dei container indicizzate da Seekable OCI (SOCI) per i job di addestramento e di elaborazione, consentendo l'esecuzione anticipata del codice dei tuoi job. Le immagini indicizzate da SOCI avviano i container di addestramento di Amazon SageMaker AI in pochi secondi, riducendo i tempi di inattività della GPU durante il pull delle immagini fino al 90%, senza alcun impatto sulle prestazioni di addestramento. Prima di poter eseguire un job di addestramento o di elaborazione, SageMaker AI scarica l'immagine del container nell'istanza. Per le immagini di deep learning, che superano regolarmente i 10 GB, questo download aggiunge diversi minuti all'avvio di ogni job, con conseguenti costi a carico dell'utente per tale intervallo di tempo. Ora, quando la tua immagine include un indice SOCI, SageMaker AI esegue il caricamento differito dell'immagine, recuperando solo i file necessari all'avvio del container ed effettuando lo streaming dei rimanenti in background mentre il codice è in esecuzione.
Per utilizzare questa funzionalità, fai riferimento a un'immagine indicizzata da SOCI da un repository privato di Amazon ECR nel tuo job di addestramento o di elaborazione. È possibile utilizzare un container di deep learning AWS pre-indicizzato modificando il tag dell'immagine nella relativa variante -soci, oppure aggiungere un indice SOCI alla tua immagine in Amazon ECR tramite strumenti open source, senza la necessità di riorganizzare l'immagine. Non è richiesta alcuna modifica alla definizione del job, al punto di ingresso o ai canali dati. SageMaker AI verifica automaticamente la presenza di un indice, mentre le immagini prive di indice vengono scaricate secondo le modalità precedenti. Se non è possibile utilizzare un indice, il job ripristina la modalità di download standard e prosegue la propria esecuzione.
Le immagini indicizzate da SOCI per i job di addestramento e di elaborazione di SageMaker AI sono disponibili a partire da oggi in tutte le regioni AWS in cui è offerto SageMaker AI, tramite le API, la CLI, gli SDK e la Console di SageMaker AI. Per ulteriori informazioni, consulta la documentazione relativa ai job di addestramento e ai job di elaborazione, oppure leggi il post del blog di lancio.