Anúncio das fórmulas do Amazon SageMaker HyperPod
As fórmulas do Amazon SageMaker HyperPod ajudam você a começar a treinar e ajustar modelos de base (FMs) disponíveis publicamente em minutos com performance de última geração. O SageMaker HyperPod ajuda os clientes a escalar o desenvolvimento de modelos de IA generativa em centenas ou milhares de aceleradores de IA com resiliência incorporada e otimizações de performance, diminuindo o tempo de treinamento de modelo em até 40%. No entanto, como os tamanhos de FM continuam a crescer para centenas de bilhões de parâmetros, o processo de personalização desses modelos pode levar semanas de extensa experimentação e depuração. Além disso, realizar otimizações de treinamento para obter uma melhor performance de preço geralmente é inviável para os clientes, pois eles geralmente exigem uma profunda experiência em machine learning, o que pode causar mais atrasos no tempo para comercialização.
Com as fórmulas do SageMaker HyperPod, os clientes de todos os conjuntos de habilidades podem se beneficiar da performance de última geração e, ao mesmo tempo, começar a treinar e ajustar rapidamente os FMs populares disponíveis ao público, incluindo Llama 3.1 405B, Mixtral 8x22B e Mistral 7B. As fórmulas do SageMaker HyperPod incluem uma pilha de treinamento testada pela AWS, o que elimina semanas de trabalho tedioso com testes de diferentes configurações de modelos. Você também pode alternar rapidamente entre instâncias baseadas em GPU e do AWS Trainium com uma alteração de fórmula em uma linha e habilitar o ponto de verificação automatizado de modelos para melhorar a resiliência do treinamento. Finalmente, você pode executar workloads em produção no serviço de treinamento de IA do SageMaker de sua escolha.
As fórmulas do SageMaker HyperPod estão disponíveis em todas as regiões da AWS que oferecem suporte aos trabalhos de treinamento do SageMaker HyperPod e do SageMaker. Para saber mais e começar a usá-las, acesse a página do SageMaker HyperPod e o blog.