Publicado: Mar 11, 2024
Agora, o Amazon CloudWatch Container Insights com observabilidade aprimorada para o EKS descobre automaticamente métricas críticas de integridade e performance de GPUs da NVIDIA e as encaminha a painéis automáticos para agilizar o isolamento e solução de problemas de workloads de IA/ML. O Container Insights com observabilidade aprimorada fornece tendências e padrões prontos para uso sobre a integridade de sua infraestrutura e elimina a sobrecarga das configurações manuais de painéis e alarmes, economizando tempo e esforço.
Usando a observabilidade aprimorada no Container Insights, agora você pode entender facilmente se suas GPUs e memória em suas instâncias aceleradas estão íntegras e garantir que seus trabalhos de treinamento continuem funcionando. Você pode identificar facilmente os erros e detalhar rapidamente a causa raiz e, ao mesmo tempo, minimizar as longas interrupções em seus trabalhos de treinamento. O Container Insights aprimorado oferece observabilidade computacional acelerada em visualizações selecionadas e permite monitorar facilmente a eficiência com que seus recursos são consumidos por seus modelos de treinamento distribuídos e otimizar suas alocações adequadamente.
É fácil começar a usar a observabilidade computacional acelerada. Você pode integrar o Enhanced Container Insights instalando o complemento de observabilidade do CloudWatch nos clusters ou instalando manualmente o CloudWatch Agent para obter uma melhor observabilidade. Após a configuração, você pode navegar até o console do Container Insights e visualizar a telemetria de GPUs da NVIDIA pronta para uso.
As métricas de GPU da NVIDIA agora estão disponíveis no Container Insights com observabilidade aprimorada para o EKS em todas as regiões públicas da AWS, incluindo as regiões AWS GovCloud (EUA) e China. As métricas de GPU da NVIDIA seguem os preços baseados em observação. Consulte a página de preços do Container Insights para obter detalhes. Para obter mais informações, consulte o guia do usuário do Container Insights.
22/04 - A publicação foi atualizada para fornecer instruções sobre a experiência manual de conceitos básicos.