Instâncias G7e do Amazon EC2 já disponíveis
Hoje, a Amazon anuncia a disponibilidade geral das instâncias G7e do Amazon Elastic Compute Cloud (Amazon EC2), aceleradas pelas GPUs NVIDIA RTX PRO 6000 Blackwell Server Edition. As instâncias G7e oferecem até 2,3 vezes mais performance de inferência em comparação com as instâncias G6e.
Os clientes podem usar as instâncias G7e para implantar grandes modelos de linguagem (LLMs), modelos de IA agêntica, modelos de IA generativa multimodal e modelos físicos de IA. As instâncias G7e oferecem a mais alta performance para workloads de computação espacial, bem como workloads que exigem recursos de processamento gráfico e de IA. As instâncias G7e apresentam até 8 GPUs NVIDIA RTX PRO 6000 Blackwell Server Edition, com 96 GB de memória por GPU e processadores Intel Xeon de 5ª geração. Eles oferecem suporte a até 192 CPUs virtuais (vCPUs) e até 1600 Gbps de largura de banda da rede do Elastic Fabric Adapter. As instâncias G7e oferecem suporte ao NVIDIA GPUDirect Peer to Peer (P2P), que aumenta a performance de workloads com várias GPUs. As instâncias G7e com várias GPUs também oferecem suporte ao NVIDIA GPUDirect Remote Direct Memory Access (RDMA) com EFav4 em UltraClusters do EC2, o que reduz a latência para workloads de vários nós em pequena escala.
Você pode usar as instâncias G7e para o Amazon EC2 nas seguintes regiões da AWS: Leste dos EUA (Norte da Virgínia) e Leste dos EUA (Ohio). Você pode adquirir as instâncias G7e como instâncias sob demanda, spot ou como parte de Savings Plans.
Para começar a usá-las, acesse o Console de Gerenciamento da AWS, a AWS Command Line Interface (CLI) e os AWS SDKs. Para saber mais, acesse Instâncias G7e.