Amazon SageMaker AI ora supporta gli elenchi di preferenza delle istanze per i processi di addestramento ed elaborazione
Oggi Amazon SageMaker AI introduce gli elenchi di preferenza delle istanze per i processi di addestramento ed elaborazione con l'obiettivo di rendere più semplice e veloce la ricerca di capacità di calcolo per i carichi di lavoro. Molti carichi di lavoro di addestramento, fine-tuning ed elaborazione dati basati sull'IA offrono prestazioni comparabili su vari tipi o dimensioni di istanza. Finora, però, al momento dell'invio del processo era necessario specificare un unico tipo di istanza e attendere che SageMaker trovasse la capacità corrispondente. Nei periodi di picco della domanda di GPU, con tempi di attesa spesso imprevedibili, i clienti si trovavano talvolta a dover implementare una logica complessa per i nuovi tentativi oppure a inviare contemporaneamente più processi con tipi di istanza diversi, in modo da individuare la prima opzione disponibile. Ora è sufficiente indicare un elenco ordinato per priorità dei tipi di istanza compatibili con il carico di lavoro e SageMaker eseguirà automaticamente il processo sulla prima configurazione disponibile tra quelle preferite. Grazie a questa soluzione, i processi di addestramento o elaborazione possono iniziare più rapidamente.
Per utilizzare questa funzionalità occorre indicare, in ordine di priorità, le preferenze relative al tipo e al numero di istanze al momento dell'invio del processo di addestramento o elaborazione. Ad esempio, l'elenco potrebbe includere come preferenza due istanze di tipo ml.g6.48xlarge oppure quattro istanze di tipo ml.g5.48xlarge. SageMaker esamina l'elenco e avvia il processo sulla prima configurazione con capacità disponibile. Nello stesso invio del processo è inoltre possibile specificare se utilizzare capacità proveniente da fonti on demand o dai piani di addestramento flessibili riservati di SageMaker. In questo modo si semplifica l'accesso alla capacità di elaborazione per i processi nei periodi di alta richiesta, riducendo la necessità di gestire manualmente nuovi tentativi, il tutto tramite le API dei processi di addestramento ed elaborazione di SageMaker già utilizzate.
Gli elenchi di preferenza delle istanze per i processi di addestramento e di elaborazione di SageMaker sono ora disponibili in tutte le regioni AWS in cui è supportato SageMaker, tramite CLI, API, SDK e l'interfaccia utente della console di SageMaker. Per ulteriori informazioni, consulta la nostra documentazione o il nostro blog di lancio.