Amazon SageMaker HyperPod artık esnek bulut sunucusu gruplarını destekliyor
Amazon SageMaker HyperPod artık esnek bulut sunucusu gruplarını destekleyerek müşterilerin tek bir bulut sunucusu grubu içinde birden çok bulut sunucusu türü ve birden çok alt ağ belirlemesine olanak tanır. HyperPod'da eğitim ve çıkarım iş yükleri çalıştıran müşterilerin genellikle kapasite esnekliği, maliyet optimizasyonu ve alt ağ kullanımı için birden fazla bulut sunucusu türünü ve kullanılabilirlik bölgesini kapsaması gerekir. Müşterilerin daha önce her bulut sunucusu türü ve kullanılabilirlik bölgesi kombinasyonu için ayrı bir bulut sunucusu grubu oluşturup yönetmeleri gerekirdi ve bu küme yapılandırması, ölçeklendirme, yama ve izleme genelinde operasyonel ek yük oluşmasına neden olurdu.
Esnek bulut sunucusu gruplarıyla, yeni InstanceRequirements parametresini kullanarak sıralı bir bulut sunucusu türleri listesi tanımlayabilir ve tek bir bulut sunucusu grubundaki kullanılabilirlik bölgelerinde birden çok alt ağ sağlayabilirsiniz. HyperPod, ilk önce en yüksek öncelikli türü kullanarak bulut sunucularını tedarik eder ve kapasite kullanılamadığında otomatik olarak düşük öncelikli türlere geri döner. Bu, müşterilerin tek tek bulut sunucusu grupları arasında manuel olarak yeniden deneme ihtiyacını ortadan kaldırır. Eğitim müşterileri, alt ağın tükenmesini önlemek için kullanılabilirlik bölgesi içinde çoklu alt ağ dağıtımından yararlanır. Manuel ölçeklendirme yapan çıkarım müşterileri, bulut sunucusu türleri içinde otomatik olarak her bulut sunucusu grubunu tek tek yeniden denemeden öncelik tabanlı geri dönüş alırlar. Karpenter otomatik ölçeklendirme kullananlar müşteriler ise bu işlemi tek bir esnek bulut sunucusnu referans göstererek gerçekleştirebilirler. Karpenter, desteklenen bulut sunucusu türlerini esnek bulut sunucusu grubundan otomatik olarak algılar ve pod gereksinimlerine göre en uygun tür ve kullanılabilirlik bölgesini sağlar. CreateCluster ve UpdateCluster API'lerini, AWS CLI veya AWS Yönetim Konsolu'nu kullanarak esnek bulut sunucusu grupları oluşturabilirsiniz.
SageMaker HyperPod'un desteklendiği tüm AWS Bölgelerinde EKS düzenleyicisini kullanan SageMaker HyperPod kümeleri için esnek bulut sunucusu grupları mevcuttur. Daha fazla bilgi edinmek için Esnek bulut sunucusu grupları sayfasına bakın.