Amazon SageMaker HyperPod agora oferece suporte à execução de IDEs e cadernos para acelerar o desenvolvimento de IA
O Amazon SageMaker HyperPod agora oferece suporte a IDEs e cadernos, permitindo que os desenvolvedores de IA executem o JupyterLab, o Editor de Código ou conectem IDEs locais para executar suas workloads interativas de IA diretamente nos clusters do HyperPod.
A versão permite que os desenvolvedores de IA executem IDEs e cadernos nos mesmos clusters persistentes do HyperPod EKS usados para treinamento e inferência. Os desenvolvedores podem aproveitar a capacidade de GPU escalável do HyperPod com ferramentas familiares, como o HyperPod CLI, enquanto compartilham dados entre IDEs e tarefas de treinamento por meio de sistemas de arquivos montados, como FSx e EFS. A solução oferece suporte à execução de vários IDEs na mesma instância de GPU, bem como em uma única GPU, aproveitando o suporte à GPU de várias instâncias (MIG) no HyperPod.
Os administradores podem maximizar os investimentos em CPU/GPU por meio da governança unificada entre IDEs, treinamento e workloads de inferência usando a governança de tarefas do HyperPod. A observabilidade do HyperPod fornece métricas de uso abrangentes, incluindo consumo de CPU, GPU e memória, permitindo que os administradores otimizem a utilização do cluster e gerenciem os custos com eficiência.
Esse atributo está disponível em todas as regiões da AWS que oferecem o Amazon SageMaker HyperPod, exceto as regiões China e GovCloud (EUA). Para saber mais, acesse a documentação.