Amazon EC2 G6e bulut sunucuları daha fazla bölgede kullanıma sunuldu
NVIDIA L40S Tensor Core GPU'lar tarafından desteklenen Amazon EC2 G6e bulut sunucuları bugünden itibaren Asya Pasifik (Tokyo) ve Avrupa'da (Frankfurt, İspanya) kullanılabilir. G6e bulut sunucuları, çok çeşitli makine öğrenimi ve uzamsal hesaplama kullanım örneklerinde kullanılabilir. G6e bulut sunucuları, G5 bulut sunucularına kıyasla 2,5 kata kadar daha iyi performans ve P4d bulut sunucularına göre %20'ye kadar daha düşük çıkarım maliyeti sunar.
Müşteriler, görüntü, video ve ses oluşturmak amacıyla 13 milyara kadar parametre içeren büyük dil modellerini (LLM'ler) ve difüzyon modellerini dağıtmak için G6e bulut sunucularını kullanabilir. Ek olarak, G6e bulut sunucuları, müşterilerin uzamsal bilgi işlem iş yükleri için daha büyük, daha sürükleyici 3D simülasyonlar ve dijital ikizler oluşturmasına olanak tanıyacak. G6e bulut sunucuları, toplam 384 GB GPU belleğine (GPU başına 48 GB bellek) ve üçüncü nesil AMD EPYC işlemcilere sahip 8 adede kadar NVIDIA L40S Tensor Core GPU içerir. Ayrıca 192 adede kadar vCPU, 400 Gbps'ye kadar ağ bant genişliği, 1,536 TB'ye kadar sistem belleği ve 7,6 TB'a kadar yerel NVMe SSD depolama alanını desteklerler. Geliştiriciler, AWS Deep Learning AMI'leri, AWS Derin Öğrenme Container'ları veya Amazon Esnek Kubernetes Hizmeti (Amazon EKS) ve AWS Toplu İşlem gibi yönetilen hizmetleri kullanarak yakında sunulacak olan Amazon SageMaker desteğiyle G6e bulut sunucularında yapay zeka çıkarım iş yüklerini çalıştırabilir.
Amazon EC2 G6e bulut sunucuları bugün AWS ABD Doğu (Kuzey Virginia, Ohio), ABD Batı (Oregon), Asya Pasifik (Tokyo) ve Avrupa (Frankfurt, İspanya) bölgelerinde kullanıma sunuldu. Müşteriler G6e bulut sunucularını İstek Üzerine Bulut Sunucuları, Rezerve Edilmiş Bulut Sunucuları, Spot Bulut Sunucuları veya Tasarruf Planlarının bir parçası olarak satın alabilir.
Kullanmaya başlamak için AWS Yönetim Konsolu, AWS Komut Satırı Arabirimi (CLI) ve AWS SDK'lerini ziyaret edin. Daha fazla bilgi edinmek için G6e bulut sunucusu sayfasına gidin.