Amazon SageMaker HyperPod artık sürekli tedarik ile Slurm kümeleri için derin durum denetimlerini destekliyor
Amazon SageMaker HyperPod artık sürekli tedarikle oluşturulmuş SLURM tarafından düzenlenen kümeler için derin durum denetimlerini destekleyerek istediğiniz zaman çalışan bulut sunucularında GPU hızlandırıcı durumunu proaktif olarak doğrulamanıza olanak tanır. Sürekli tedarik, eğitime hızlı bir şekilde başlamanıza ve bulut sunucusu gruplarını her şey ya da hiçbir hata olmadan zaman uyumsuz olarak ölçeklendirmenize olanak tanır ve bulut sunucuları çevrimiçi olduğunda artık bu esnekliği kapsamlı donanım doğrulamasıyla eşleştirebilirsiniz. Bu özellik, tek bir düğümün saatlerce bilgi işlem süresini gereksizce harcayabileceği kritik iş yüklerindeki kritik bir zorluğu giderir.
Durum denetimleri sayesinde bir işe bilgi işlem kaynakları ayırmadan önce kapsamlı donanım stres testleri ve bağlantı testleri gerçekleştirmek için bütün bulut sunucusu gruplarını veya belirli bulut sunucularını seçebilirsiniz. Sürekli tedarik, kapasite kullanılabilir hale geldikçe Slurm kümenize zaman uyumsuz olarak çalışan düğümleri eklediğinden, çevrimiçi olduğunda her yeni düğüm üzerinde derin durum denetimleri çalıştırabilir, üzerinde işleri planlamadan önce ve sağlıklı düğümlerde çalışan iş yüklerini kesintiye uğratmadan donanımı doğrulayabilirsiniz. İlerleme ve sonuçlar, SageMaker konsolu ve API'leri aracılığıyla hem bulut sunucusu grubu hem de bulut sunucusu düzeyinde görülebilir ve GPU durumu, ağ bağlantısı ve çok düğümlü iletişim performansı hakkında tam görünürlük sağlar. Denetimlerden geçen bulut sunucuları, iş yükü planlamasından otomatik olarak izole edilir ve geçtikten sonra hizmete geri döndürülür. HyperPod'un otomatik düğüm kurtarma özelliğiyle birlikte kullanıldığında, başarısız bulut sunucuları otomatik olarak yeniden başlatılır veya değiştirilir, böylece küme sağlığı sağlanır.
Bu özellik, Amazon SageMaker HyperPod'un kullanılabildiği tüm bölgelerde kullanılabilir. İstek üzerine derin durum denetimleri ve sürekli tedarik hakkında daha fazla bilgi edinmek için Amazon SageMaker HyperPod Kullanıcı Kılavuzu'na bakın.