Amazon SageMaker AI ahora es compatible con los servidores UltraServer P6e-GB200
Hoy, Amazon SageMaker AI anuncia la compatibilidad con los servidores UltraServer P6e-GB200 en SageMaker HyperPod y en trabajos de entrenamiento. Con los UltraServers P6e-GB200, puede aprovechar hasta 72 GPU NVIDIA Blackwell en un dominio NVLink para acelerar el entrenamiento y la implementación de modelos básicos a una escala de un billón de parámetros. Los UltraServer P6e-gb200 están disponibles en dos tamaños: ml.u-p6e-gb200x72 (72 GPU en NVLink) y ml.u-p6e-gb200x36 (36 GPU en NVLink).
Los UltraServer P6e-GB200 ofrecen 20 veces más de capacidad de computación y 11 veces más de memoria con un NVIDIA NVLink en comparación con las instancias P5en. Dentro de cada dominio de NVLink, puede aprovechar 360 petaflops de computación FP8 (sin dispersión) y 13,4 TB de memoria total de alto ancho de banda (HBM3e). Cuando utiliza los servidores UltraServer P6e-GB200 en SageMaker AI, obtiene el rendimiento superior de GB200 combinado con la infraestructura gestionada de SageMaker, como la seguridad, la tolerancia a errores integrada, la programación con reconocimiento de la topología (SageMaker HyperPod EKS y Slurm), las capacidades de monitoreo integradas y la integración nativa con otros servicios de SageMaker AI y AWS.
Los servidores UltraServer están disponibles a través de los planes de entrenamiento flexibles de SageMaker en la zona local de Dallas (“us-east-1-dfw-2a”), una extensión de la región de AWS este de EE. UU. (norte de Virginia). Para reservar servidores UltraServer GB200 bajo demanda, póngase en contacto con su administrador de cuentas. Amazon SageMaker AI le permite entrenar y emplear fácilmente modelos de machine learning a escala mediante una infraestructura completamente administrada y optimizada en términos de rendimiento y costo. Para empezar a usar UltraServers en SageMaker AI, consulte la documentación.