Amazon SageMaker HyperPod acelera a implantação de modelos de pesos abertos
Agora, o Amazon SageMaker HyperPod oferece suporte à implantação de modelos de base de peso aberto do Amazon SageMaker JumpStart, bem como de seus próprios modelos ajustados do Amazon S3 e do Amazon FSx, diretamente no Amazon SageMaker HyperPod. Isso permite que você treine, ajuste e implante modelos com facilidade nos mesmos recursos de computação do HyperPod, maximizando a utilização de recursos em todo o ciclo de vida do modelo
Em algumas etapas rápidas, você pode escolher um modelo de base de pesos abertos do SageMaker JumpStart e implantá-lo rapidamente em clusters do SageMaker HyperPod. De forma automática, o SageMaker provisiona a infraestrutura, implanta o modelo no cluster, habilita o ajuste de escala automático e configura o endpoint do SageMaker. O SageMaker aumenta e reduz a escala de recursos de computação por meio da governança de tarefas do HyperPod para acompanhar as mudanças no tráfego nos endpoints do modelo e publica automaticamente as métricas no painel de observabilidade do HyperPod para oferecer visibilidade total da performance do modelo.
Você pode implantar os modelos do SageMaker JumpStart em todas as regiões da AWS que oferecem o HyperPod: Leste dos EUA (Norte da Virgínia), Oeste dos EUA (N. da Califórnia), Oeste dos EUA (Oregon), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Singapura), Ásia-Pacífico (Sydney) e Ásia-Pacífico (Tóquio), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Estocolmo) e América do Sul (São Paulo).
Para saber mais, acesse a página, o blog e a documentação do SageMaker HyperPod.