Amazon SageMaker AI prend désormais en charge les listes de préférences d'instance pour la formation et l’entraînement des tâches
Amazon SageMaker AI publie aujourd'hui des listes de préférences d'instance pour l’entraînement et le traitement des tâches afin de faciliter et d'accélérer la recherche de capacités de calcul pour vos charges de travail. De nombreuses charges de travail de formation, de peaufinage et de traitement des données relatives à l'IA fonctionnent de manière comparable sur n'importe quel type ou taille d'instance. Cependant, jusqu'à présent, vous ne deviez nommer qu'un seul type d'instance au moment de la soumission de la tâche et attendre que SageMaker trouve cette instance spécifique pour votre tâche. Pour les GPU à forte demande pendant les périodes de pointe où les temps d'attente peuvent être imprévisibles, les clients devaient parfois créer une logique de nouvelle tentative complexe ou soumettre simultanément plusieurs tâches avec différents types d'instances pour trouver la première option disponible. Vous pouvez désormais simplement fournir une liste hiérarchisée des types d'instances acceptés par votre charge de travail, et SageMaker exécute automatiquement votre tâche sur la première configuration disponible selon vos préférences. Avec cette solution, votre tâche d’entraînement ou de traitement débutera probablement plus tôt.
Pour utiliser cette caractéristique, vous devez spécifier votre type d'instance et vos préférences de nombre par ordre de priorité lors de la soumission de la tâche d’entraînement ou de traitement. Par exemple, votre liste peut contenir une préférence pour deux instances de ml.g6.48xlarge ou quatre instances de ml.g5.48xlarge. SageMaker parcourt la liste et lance votre tâche sur la première configuration où la capacité est disponible. Vous pouvez également configurer l'approvisionnement en capacité à partir de sources à la demande ou de vos plans d’entraînement flexibles SageMaker réservés dans le cadre de la même demande de travail. Cette caractéristique simplifie le processus de calcul pour vos tâches pendant les périodes de forte demande et réduit les nouvelles tentatives manuelles indifférenciées que vous feriez autrement, le tout grâce aux API d’entraînement et de traitement des tâches de SageMaker que vous utilisez déjà.
Les listes de préférences d'instance pour les tâches d’entraînement et de traitement de SageMaker sont disponibles dès aujourd'hui dans toutes les Régions AWS où SageMaker est disponible via les CLI, les API, les kits SDK et l'interface utilisateur de la Console de SageMaker. Pour en savoir plus, consultez notre documentation ou notre blog de lancement.