Amazon EC2 G7e bulut sunucuları artık genel erişime sunuldu
Bugün Amazon, NVIDIA RTX PRO 6000 Blackwell Server Edition GPU'lar tarafından hızlandırılan Amazon Elastic Compute Cloud (Amazon EC2) G7e bulut sunucularının genel kullanılabilirliğini duyurdu. G7e bulut sunucuları, G6e'ye kıyasla 2,3 kata kadar çıkarım performansı sunar.
Müşteriler, büyük dil modellerini (LLM'ler), etken yapay zeka modellerini, çok modlu üretken yapay zeka modellerini ve fiziksel yapay zeka modellerini dağıtmak için G7e bulut sunucularını kullanabilir. G7e bulut sunucuları, hem grafik hem de yapay zeka işleme özelliği gerektiren iş yüklerinin yanı sıra uzamsal bilgi işlem iş yükleri için en yüksek performansı sunar. G7e bulut sunucuları, GPU başına 96 GB belleğe sahip 8 adede kadar NVIDIA RTX PRO 6000 Blackwell Server Edition GPU ve 5. Nesil Intel Xeon işlemcilere sahiptir. 192 adede kadar sanal CPU (vCPU) ve 1600 Gbps'ye kadar Esnek Yapı Bağdaştırıcısı ağ bant genişliğini destekler. G7e bulut sunucuları, çoklu GPU iş yükleri için performansı artıran NVIDIA GPUDirect Peer to Peer'ı (P2P) destekler. Çoklu GPU G7e bulut sunucuları ayrıca EC2 UltraClusters'da EFaV4 ile NVIDIA GPUDirect Uzaktan Doğrudan Bellek Erişimini (RDMA) destekler ve küçük ölçekli çok düğümlü iş yüklerindeki gecikmeyi azaltır.
Amazon EC2 için G7e bulut sunucularını aşağıdaki AWS Bölgelerinde kullanabilirsiniz: ABD Doğu (Kuzey Virginia) ve ABD Doğu (Ohio). G7e bulut sunucularını İstek Üzerine Bulut Sunucuları, Spot Bulut Sunucuları veya Tasarruf Planlarının bir parçası olarak satın alabilirsiniz.
Kullanmaya başlamak için AWS Yönetim Konsolu, AWS Komut Satırı Arabirimi (CLI) ve AWS SDK'lerini ziyaret edin. Daha fazla bilgi edinmek için G7e bulut sunucularını ziyaret edin.