Amazon CloudWatch Container Insights adiciona métricas de GPU de menos de um minuto para o Amazon EKS
O Amazon CloudWatch Container Insights agora oferece suporte à coleta de métricas de GPU em frequências de menos de um minuto para workloads de IA e ML executadas no Amazon EKS. Os clientes podem configurar a taxa de amostragem métrica em segundos, permitindo um monitoramento mais granular da utilização dos recursos da GPU.
Esse aprimoramento permite que os clientes monitorem com eficiência workloads com uso intensivo de GPU que são executadas por menos de 60 segundos, como trabalhos de inferência de ML que consomem recursos da GPU por curtos períodos. Ao aumentar a frequência de amostragem, os clientes podem manter uma visibilidade detalhada das workloads de GPU de curta duração. As métricas de GPU de menos de um minuto são enviadas ao CloudWatch uma vez por minuto. Esse monitoramento granular ajuda os clientes a otimizar a utilização dos recursos de GPU, solucionar problemas de performance e garantir a operação eficiente de suas aplicações de GPU em contêineres.
As métricas de GPU de menos de um minuto no Container Insights estão disponíveis em todas as regiões comerciais da AWS e nas regiões da AWS GovCloud (EUA).
Para saber mais sobre métricas de GPU de menos de minuto no Container Insights, acesse a página de métricas de GPU da NVIDIA no Guia do usuário do Amazon CloudWatch. As métricas de GPU de menos de um minuto no Container Insights estão disponíveis sem custo adicional. Para obter os preços do Container Insights, consulte a página de preços do Amazon CloudWatch.