AWS Batch supporta ora la gestione delle quote e la prelazione per i job di addestramento di SageMaker
AWS Batch supporta ora la gestione delle quote con la prelazione dei job per i job di addestramento di SageMaker, consentendo di allocare e condividere in modo efficiente le risorse di calcolo tra team e progetti. Se utilizzi la capacità GPU nei job di addestramento di SageMaker, ora puoi allocare in modo intelligente le risorse di calcolo, dare priorità ai job di addestramento critici per il business e applicare automaticamente la prelazione ai carichi di lavoro a priorità inferiore all'arrivo di esperimenti urgenti.
Con la gestione delle quote, puoi creare fino a 20 quote condivise per coda di job, che funzionano come code virtuali con limiti di capacità dedicati e strategie di condivisione delle risorse configurabili. Il servizio utilizza automaticamente la prelazione tra quote condivise per ripristinare la capacità prestata quando il proprietario originale invia dei job, e supporta la prelazione all'interno della stessa quota per consentire ai job ad alta priorità di esercitare la prelazione su quelli a priorità inferiore nella medesima condivisione. È possibile monitorare l'utilizzo della capacità con una granularità a livello di coda, di quota condivisa e di singolo job, aggiornare le priorità dei job dopo l'invio per influenzare le decisioni di prelazione e configurare i limiti di tentativo di prelazione per controllarne il comportamento. La funzionalità si integra direttamente con l'SDK Python di SageMaker tramite il modulo aws_batch .
La gestione delle quote con la prelazione dei job per i job di addestramento di SageMaker è disponibile da oggi in tutte le regioni AWS in cui è disponibile AWS Batch. Per ulteriori informazioni, consulta il nostro notebook di esempio sulla gestione delle quote su GitHub e la Guida per l'utente di AWS Batch.