Las instancias G7e de Amazon EC2 ya están disponibles en la región oeste de EE. UU. (Oregón)
A partir de hoy, las instancias G7e de Amazon EC2 aceleradas por las GPU NVIDIA RTX PRO 6000 Blackwell Server Edition ya están disponibles en la región del oeste de EE. UU. (Oregón). Las instancias G7e ofrecen un rendimiento de inferencia de hasta 2,3 veces mayor que las G6e.
Los clientes pueden usar las instancias G7e para implementar modelos de lenguaje de gran tamaño (LLM), modelos de IA agéntica, modelos de IA generativa multimodal y modelos de IA física. Las instancias G7e ofrecen el máximo rendimiento para las cargas de trabajo de computación espacial, así como para las cargas de trabajo que requieren capacidades de procesamiento de gráficos y de IA. Las instancias G7e incluyen hasta 8 GPU NVIDIA RTX PRO 6000 Blackwell Server Edition, con 96 GB de memoria por GPU y procesadores Intel Xeon de 5.a generación. Admiten hasta 192 CPU virtuales (vCPU) y hasta 1600 Gbps de ancho de banda de la red. Las instancias G7e son compatibles con NVIDIA GPUDirect Peer to Peer (P2P), lo que aumenta el rendimiento de las cargas de trabajo con varias GPU. Las instancias G7e con varias GPU también admiten el acceso remoto directo a la memoria (RDMA) de NVIDIA GPUDirect con EFA en los UltraClusters EC2. Esto reduce la latencia para cargas de trabajo de varios nodos a pequeña escala.
Puede usar instancias G7e para Amazon EC2 en las siguientes regiones de AWS: oeste de EE. UU. (Oregón), este de EE. UU. (norte de Virginia) y este de EE. UU. (Ohio). Puede comprar instancias G7e como instancias bajo demanda, instancias de spot o como parte de Savings Plans.
Para comenzar, visite la consola de administración de AWS, la interfaz de la línea de comandos (CLI) de AWS y los SDK de AWS. Para obtener más información, visite Instancias G7e.