As instâncias P5 do Amazon Elastic Compute Cloud (Amazon EC2), equipadas com GPUs NVIDIA H100 Tensor Core, e instâncias P5e e P5en com tecnologia de GPUs NVIDIA P5en Tensor Core oferecem a mais alta performance no Amazon H200 para aplicações de aprendizado profundo (DL) e computação de alta performance (HPC). Elas ajudam você a acelerar o tempo de solução em até quatro vezes em comparação às instâncias do EC2 baseadas em GPU da geração anterior, e a reduzir o custo de treinar modelos de machine learning em até 40%. Essas instâncias ajudam você a iterar suas soluções em um ritmo mais rápido e a chegar ao mercado com mais rapidez. Você pode usar instâncias P5, P5e e P5en treinar e implantar grandes modelos de linguagem (LLMs) e modelos de difusão cada vez mais complexos que alimentam as aplicações de inteligência artificial (IA) generativa mais exigentes. Essas aplicações incluem respostas a perguntas, geração de código, geração de vídeo e imagem e reconhecimento de fala. Você também pode usar essas instâncias para implantar aplicações de HPC exigentes em grande escala para descoberta farmacêutica, análise sísmica, previsão do tempo e modelagem financeira.

Para oferecer essas melhorias de desempenho e economia de custos, as instâncias P5 e P5e complementam as GPUs NVIDIA H100 e H200 Tensor Core com 2x mais peformance de CPU, 2x mais memória de sistema e 4x mais armazenamento local em comparação com instâncias baseadas em GPU da geração anterior. As instâncias P5en combinam GPUs NVIDIA H200 Tensor Core com CPU Intel Sapphire Rapids de alto desempenho, possibilitando PCIe de 5ª geração entre CPU e GPU. As instâncias P5en fornecem até o dobro da largura de banda entre CPU e GPU e menor latência de rede em comparação às instâncias P5e e P5, melhorando assim o desempenho do treinamento distribuído. O suporte a instâncias P5 e P5e fornece até 3.200 Gbps de rede usando o Elastic Fabric Adapter (EFA) de segunda geração. O P5en, com terceira geração do EFA usando o Nitro v5, mostra uma melhoria de até 35% na latência em comparação com o P5 que usa a geração anterior do EFA e do Nitro. Isso ajuda a melhorar o desempenho da comunicação coletiva para workloads de treinamento distribuídas, como aprendizado profundo, IA generativa, processamento de dados em tempo real e aplicações de computação de alto desempenho (HPC). Para oferecer computação em grande escala com baixa latência, essas instâncias são implantadas em Amazon EC2 UltraClusters, que permitem escalar até 20.000 GPUs H100 ou H200 interconectadas com uma rede sem bloqueio em escala de petabits. As instâncias P5, P5e e P5en nos EC2 UltraClusters podem oferecer até 20 exaflops de capacidade computacional agregada: uma performance equivalente ao de um supercomputador.