Publicado: Dec 7, 2018
Hoje, anunciamos a disponibilidade das instâncias de GPU P3dn.24xlarge do Amazon EC2, a mais recente adição à família de instâncias P3. Com até quatro vezes a largura de banda de rede das instâncias P3.16xlarge, as instâncias P3dn.24xlarge são otimizadas para aplicativos distribuídos de Machine Learning e HPC. Essas novas instâncias fornecem até 100 Gbps de throughput de rede, 96 Intel® Xeon® Scalable (Skylake) personalizadas, 8 GPUs NVIDIA® V100 Tensor Core com 32 GB de memória cada, 300 GB/s de interconexão de GPU NVLINK e 1,8 TB de armazenamento SSD local baseado em NVMe.
Com as redes mais rápidas, os novos processadores com vCPUs adicionais, o dobro de memória de GPU e o armazenamento de instâncias local de alta velocidade, os desenvolvedores podem otimizar a performance de uma única instância e também reduzir substancialmente o tempo de treinamento de modelos de ML ou executar mais simulações de HPC por meio da escalabilidade horizontal das tarefas entre diversas instâncias (por exemplo, 16, 32 ou 64 instâncias).
A AWS é o primeiro provedor de nuvem a fornecer throughput de rede de 100 Gbps, o que ajuda a remover gargalos na transferência de dados e otimiza a utilização de GPUs para disponibilizar a performance máxima da instância. Além disso, a duplicação da memória de GPU de 16 para 32 GB por GPU oferece a flexibilidade de treinar modelos de Machine Learning mais avançados e maiores, bem como processar grandes lotes de dados, como imagens 4k para sistemas de classificação de imagens e detecção de objetos.
Veja a seguir uma comparação entre as instâncias P3dn.24xlarge e as instâncias P3 atuais.
| Tamanho da instância | GPUs – Tesla V100 | Peer-to-peer de GPUs | Memória de GPU (GB) | vCPUs | Memória (GB) | Largura de banda de rede | Largura de banda do EBS | Armazenamento de instâncias local |
|---|---|---|---|---|---|---|---|---|
| p3.2xlarge | 1 | N/D | 16 | 8 (Broadwell) | 61 | Até 10 Gbps | 1,5 Gbps | N/D |
| p3.8xlarge | 4 |
NVLink | 64 | 32 (Broadwell) | 244 | 10 Gbps | 7 Gbps | N/D |
| p3.16xlarge | 8 | NVLink | 128 | 64 (Broadwell) | 488 | 25 Gbps | 14 Gbps | N/D |
| p3dn.24xlarge | 8 | NVLink | 256 | 96 (Skylake) | 768 | 100 Gbps | 14 Gbps | 2 x 900 GB SSD NVMe |
As instâncias P3dn.24xlarge estão disponíveis nas regiões da AWS Leste dos EUA (Norte da Virgínia) e Oeste dos EUA (Oregon) como instâncias sob demanda, reservadas ou spot. Para saber mais sobre as instâncias P3 e como elas estão sendo usadas por clientes como Airbnb, Salesforce e Western Digital, acesse a página das instâncias P3.