Saltar al contenido principal

Amazon EC2 UltraClusters

Ejecute aplicaciones de HPC y ML a escala

Introducción a P6e-GB200
Introducción a Trn2

¿Por qué elegir UltraClusters de Amazon EC2?

Los UltraClusters de Amazon Elastic Compute Cloud (Amazon EC2) pueden ayudarlo a escalar a miles de GPU o chips de ML e IA personalizados, como AWS Trainium, para obtener acceso bajo demanda a una supercomputadora. Democratizan el acceso a un rendimiento de supercomputación para los desarrolladores de machine learning (ML), IA generativa y computación de alto rendimiento (HPC) mediante un modelo de uso simple de pago por uso sin costos de configuración o mantenimiento. Las instancias de Amazon EC2 que se implementan en EC2 UltraClusters incluyen las instancias P6e-GB200, P6-B200, P5en, P5e, P5, P4d, Trn2 y Trn1.

Los UltraClusters de EC2 constan de miles de instancias de EC2 aceleradas que se ubican en una zona de disponibilidad de AWS determinada y se interconectan mediante redes de Elastic Fabric Adapter (EFA) en una red sin bloqueos a escala de petabits. Los UltraClusters de EC2 también brindan acceso a Amazon FSx for Lustre, un almacenamiento compartido totalmente administrado que se basa en el sistema de archivos paralelo de alto rendimiento más popular para procesar rápidamente conjuntos de datos masivos bajo demanda y a escala con latencias inferiores a los milisegundos. Los UltraClusters de EC2 brindan capacidades de escalado horizontal para el entrenamiento de ML distribuido y cargas de trabajo de HPC estrechamente acopladas.

Beneficios

Los UltraClusters de EC2 lo ayudan a reducir los tiempos de entrenamiento y el tiempo de creación de soluciones de semanas a solo unos pocos días. Esto lo ayuda a realizar iteraciones a un ritmo más rápido y a comercializar sus aplicaciones de aprendizaje profundo (DL), IA generativa y HPC con mayor rapidez.
Los UltraClusters de EC2 constan de miles de instancias de EC2 aceleradas que se ubican en una zona de disponibilidad de AWS determinada y se interconectan mediante redes de Elastic Fabric Adapter (EFA) en una red sin bloqueos a escala de petabits. Le permiten obtener acceso bajo demanda a varios exaflops de computación acelerada. 
Los UltraClusters de EC2 son compatibles con una lista cada vez mayor de instancias de EC2 y le brindan la flexibilidad de elegir la opción de procesamiento adecuada para maximizar el rendimiento y, al mismo tiempo, mantener los costos de la carga de trabajo bajo control.

Características

Redes de alto rendimiento

Las instancias de EC2 implementadas en UltraClusters de EC2 están interconectadas con las redes EFA para mejorar el rendimiento de las cargas de trabajo de entrenamiento distribuido y las cargas de trabajo de HPC estrechamente acopladas. Los servidores UltraServer P6e-GB200 ofrecen hasta 28,8 terabits por segundo del total de redes EFAv4. Las instancias P6-B200 ofrecen hasta 3,2 terabits por segundo de redes EFAv4. Los servidores Trn2 UltraServer tienen 12,8 terabits por segundo de red EFAv3. Las instancias P5en, P5e, P5 y Trn2 ofrecen hasta 3200 Gbps; las instancias Trn1 ofrecen hasta 1600 Gbps; y las instancias P4d ofrecen hasta 400 Gbps de redes EFA. EFA también se combina con NVIDIA GPUDirect Remote Direct Memory Access (RDMA) (P6-B200, P5en, P5e, P5, P4d) y NeuronLink (Trn2, Trn1) para permitir la comunicación de acelerador a acelerador de baja latencia entre servidores con omisión de sistema operativo.

Almacenamiento de alto rendimiento

Los UltraClusters de EC2 utilizan FSx para Lustre, un almacenamiento compartido completamente administrado que se basa en el sistema de archivos en paralelo de alto rendimiento más popular. Con FSx para Lustre, puede procesar rápidamente conjuntos de datos masivos bajo demanda y a escala y ofrecer latencias inferiores a los milisegundos. Las características de baja latencia y alto rendimiento de FSx para Lustre están optimizadas para las cargas de trabajo de DL, IA generativa y HPC en los UltraClusters de EC2. FSx para Lustre mantiene las GPU y los chips de IA de UltraClusters de EC2 alimentados con datos, lo que acelera las cargas de trabajo más exigentes. Estas cargas de trabajo incluyen el entrenamiento de modelos de lenguaje de gran tamaño (LLM), la inferencia de la IA generativa, la DL, la genómica y la modelización de riesgos financieros. También puede acceder a un almacenamiento rentable prácticamente ilimitado con Amazon Simple Storage Service (Amazon S3).

Compatibles con instancias y servidores UltraServer

Servidores UltraServers P6e-GB200

Las instancias P6e-GB200, aceleradas con NVIDIA GB200 NVL72, en una configuración UltraServer ofrecen el rendimiento de inferencia y entrenamiento de IA de GPU más alto de Amazon EC2.

Más información

Instancias P6-B200

Las instancias P6-B200 de Amazon EC2, aceleradas con las GPU NVIDIA Blackwell, ofrecen instancias de alto rendimiento para el entrenamiento de IA, la inferencia y la HPC.

Más información

Instancias Trn2 y servidores UltraServer

Las instancias Trn2, con la tecnología de los chips de IA de AWS Trainium2, ofrecen una relación entre precio y rendimiento entre un 30 % y un 40 % superior que las instancias basadas en GPU comparables.

Más información

Instancias P5en, P5e y P5

Las instancias P5en y P5e, con la tecnología de las GPU Tensor Core de NVIDIA H200, proporcionan un alto rendimiento de Amazon EC2 para aplicaciones de HPC y entrenamiento de ML. Las instancias P5 funcionan con las GPU Tensor Core H100 de NVIDIA.

Más información

Instancias P4d

Las instancias P4d, con la tecnología de las GPU Tensor Core de NVIDIA A100, proporcionan un alto rendimiento para el entrenamiento de ML y las aplicaciones de HPC.

Más información

Instancias Trn1

Las instancias Trn1, con la tecnología de los chips de IA de AWS Trainium, se crearon específicamente para el entrenamiento de ML de alto rendimiento. Ofrecen hasta un 50 % de ahorro en el costo del entrenamiento con respecto a otras instancias de Amazon EC2 comparables.

Más información