Publicado: Oct 4, 2019
O Amazon SageMaker agora oferece suporte a ml.p3dn.24xlarge, a instância P3 mais poderosa e otimizada para aplicativos de aprendizado de máquina. Essa instância fornece rede mais rápida, o que ajuda a remover gargalos na transferência de dados e otimiza a utilização de GPUs para oferecer desempenho máximo para o treinamento de modelos de aprendizado profundo.
Essas instâncias ml.p3dn.24xlarge fornecem até 100 Gbps de throughput de redes, 96 Intel® Xeon® Scalable (Skylake) personalizadas, 8 GPUs NVIDIA® p3dn Tensor Core com 32 GB de memória cada, 300 GB/s de interconexão de GPU NVLINK e 1,8 TB de armazenamento SSD local baseado em NVMe. Em comparação à próxima maior instância P3, o aumento de 4X na taxa de transferência de rede, juntamente com processadores mais rápidos e armazenamento local SSD baseado em NVMe, permitirá que os desenvolvedores distribuam eficientemente seus trabalhos de treinamento de aprendizado de máquina em várias instâncias ml.p3dn.24xlarge e removem gargalos de transferência de dados e pré-processamento.
Veja a seguir uma comparação entre as instâncias ml.p3dn.24xlarge do Amazon SageMaker e as instâncias existentes P3 ML do Amazon SageMaker.
Tipo de instância para ML | GPUs – Tesla V100 | Peer-to-peer de GPUs | Memória de GPU (GB) | vCPUs | Memória (GB) | Largura de banda de rede | Largura de banda do EBS | Armazenamento de instâncias local |
---|---|---|---|---|---|---|---|---|
ml.p3.2xlarge | 1 | N/D | 16 | 8 (Broadwell) | 61 | Até 10 Gbps | 1,5 Gbps | N/D |
ml.p3.8xlarge | 4 | NVLink | 64 | 32 (Broadwell) | 244 | 10 Gbps | 7 Gbps | N/D |
ml.p3.16xlarge | 8 | NVLink | 128 | 64 (Broadwell) | 488 | 25 Gbps | 14 Gbps | N/D |
ml.p3dn.24xlarge | 8 | NVLink | 256 | 96 (Skylake) | 768 | 100 Gbps | 14 Gbps | 2 x 900 GB SSD NVMe |
As instâncias l.p3dn.24xlarge do Amazon SageMaker estão disponíveis nas regiões da AWS no Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio) e Oeste dos EUA (Oregon). Com essas instâncias, os clientes podem usar 1,8 TB de armazenamento SSD local baseado em NVMe, eliminando a necessidade de criar e pagar por volumes adicionais de ml de armazenamento. Visite a documentação do Amazon SageMaker para saber mais sobre como usar o armazenamento SSD local baseado em NVMe nesse tipo de instância. Visite a página do P3 para saber mais sobre como as instâncias P3 estão sendo usadas pelos clientes da AWS.