La gouvernance des tâches est désormais disponible pour Amazon SageMaker HyperPod
Amazon SageMaker HyperPod vous fournit désormais une gouvernance centralisée pour toutes les tâches de développement de l'IA générative, telles que l’entraînement et l'inférence. Vous bénéficiez d'une visibilité et d'un contrôle complets sur l'allocation des ressources de calcul, ce qui vous permet de hiérarchiser les tâches les plus critiques et d'optimiser l'utilisation des ressources de calcul, réduisant ainsi les coûts de développement des modèles jusqu'à 40 %.
Grâce à la gouvernance des tâches d’HyperPod, les administrateurs peuvent définir plus facilement les priorités des différentes tâches et définir des limites quant au nombre de ressources de calcul que chaque équipe peut utiliser. À tout moment, les administrateurs peuvent également surveiller et auditer les tâches en cours d'exécution ou en attente de ressources de calcul via un tableau de bord visuel. Lorsque les scientifiques des données créent leurs tâches, HyperPod les exécute automatiquement, en respectant les limites et les priorités de ressources de calcul définies. Par exemple, lorsque l'entraînement d’un modèle hautement prioritaire doit être terminé dès que possible, mais que toutes les ressources de calcul sont utilisées, HyperPod libère des ressources destinées aux tâches moins prioritaires pour prendre en charge l’entraînement. HyperPod interrompt la tâche de faible priorité, enregistre le point de contrôle et réalloue les ressources de calcul libérées. La tâche de faible priorité préemptée reprendra à partir du dernier point de contrôle enregistré à mesure que les ressources seront de nouveau disponibles. Et lorsqu'une équipe n'utilise pas pleinement les limites de ressources définies par l'administrateur, HyperPod utilise ces ressources inactives pour accélérer les tâches d'une autre équipe. En outre, HyperPod est désormais intégré à Amazon SageMaker Studio, intégrant la gouvernance des tâches et d'autres fonctionnalités d’HyperPod à l'environnement de Studio. Les scientifiques des données peuvent désormais interagir de manière fluide avec les clusters d’HyperPod directement depuis Studio, ce qui leur permet de développer, soumettre et surveiller des tâches de machine learning (ML) sur de puissants clusters soutenus par des accélérateurs.
La gouvernance des tâches pour HyperPod est disponible dans toutes les régions AWS où HyperPod est disponible : USA Est (Virginie du Nord), USA Ouest (Californie du Nord), USA Ouest (Oregon), Asie-Pacifique (Mumbai), Asie-Pacifique (Singapour), Asie-Pacifique (Sydney) et Asie-Pacifique (Tokyo), Europe (Francfort), Europe (Irlande), Europe (Londres), Europe (Stockholm) et Amérique du Sud (São Paulo).
Pour en savoir plus, consultez la page Web de SageMaker HyperPod, le blog d’actualités AWS et la documentation de SageMaker AI.