Amazon SageMaker HyperPod agora valida as cotas de serviço antes de criar clusters no console
O console do Amazon SageMaker HyperPod agora valida os Service Quotas para sua conta da AWS antes de iniciar a criação do cluster e permite que você confirme a disponibilidade de cotas suficientes antes do início do provisionamento. O SageMaker HyperPod ajuda você a provisionar clusters resilientes para executar workloads de IA/ML e desenvolver modelos de última geração, como grandes modelos de linguagem (LLMs), modelos de difusão e modelos de base (FMs).
Ao criar clusters de IA/ML em grande escala, você precisa garantir que sua conta tenha cotas suficientes para instâncias, armazenamento e recursos de rede. No entanto, a validação de cotas exigia anteriormente verificações manuais em vários serviços da AWS, o que frequentemente resultava em tentativas frustradas de criação de clusters e perda de tempo caso você não solicitasse aumentos nos limites de cota. O novo recurso de validação de cotas no console do SageMaker HyperPod verifica automaticamente suas cotas no nível da conta em relação à configuração do cluster, incluindo limites de tipo de instância, tamanhos de volume do EBS e cotas relacionadas à VPC ao criar novos recursos. A validação exibe uma tabela clara que mostra a utilização esperada, os valores das cotas aplicadas e o status de conformidade para cada cota. Quando as quotas estiverem prestes a ser excedidas, você receberá um alerta com links diretos para o console do Service Quotas para solicitar aumentos.
Esse atributo está disponível em todas as regiões da AWS nas quais o Amazon SageMaker HyperPod é oferecido. Para obter uma lista completa das verificações de validação de cota de serviço realizadas, consulte o Guia do usuário do Amazon SageMaker HyperPod.