Los UltraServer Amazon P6e-GB200 ya están disponibles para ofrecer el máximo rendimiento de GPU en EC2
Amazon anuncia hoy la disponibilidad general de los servidores UltraServer P6e-GB200 de Amazon Elastic Compute Cloud (Amazon EC2), acelerados por NVIDIA GB200 NVL72. Los servidores Amazon EC2 P6e-GB200 UltraServer ofrecen el rendimiento de inferencia y entrenamiento de IA basado en GPU más alto de EC2. Están diseñados para acelerar el entrenamiento y la inferencia de los modelos fundacionales (FM), incluidas las capacidades de próxima generación, como los modelos de razonamiento y la IA agencial a una escala de un billón de parámetros.
Con los UltraServers P6e-GB200, los clientes pueden acceder a hasta 72 GPU Blackwell dentro de un dominio de NVLink para aprovechar 360 petaflops de procesamiento FP8 (sin escasez), 13,4 TB de memoria total de ancho de banda alto (HBM3e) y hasta 28,8 Tbps de redes con Elastic Fabric Adapter (EFAv4). Los UltraServer P6e-GB200 funcionan con AWS Nitro System, lo que permite a los clientes escalar de manera confiable y segura las cargas de trabajo de IA en EC2 UltraClusters a decenas de miles de GPU.
Los UltraServer P6e-GB200 ya están disponibles mediante bloques de capacidad de Amazon EC2 para ML en la zona local de Dallas (“us-east-1-dfw-2a”), una extensión de la región Este de EE. UU. (Virginia del Norte). Los UltraServer P6e-GB200 están disponibles en dos tamaños: u-p6e-gb200x72 (72 GPU en NVLink) y u-p6e-gb200x36 (36 GPU en NVLink).
Para obtener más información, consulte las instancias P6e-GB200 UltraServers y P6-B200 de Amazon EC2.