Amazon SageMaker HyperPod artık otomatik Slurm topoloji yönetimini destekliyor
Amazon SageMaker HyperPod artık kümedeki GPU bulut sunucusu türlerine göre Slurm kümeleri için en uygun ağ topolojisi yapılandırmasını otomatik olarak seçer ve sürekli olarak korur. Ağ topolojisi dağıtılmış eğitim performansını doğrudan etkiler; işler topolojik olarak yakın düğümlere yerleştirildiği zaman GPU'dan GPU'ya iletişim daha hızlıdır, NCCL toplu işlemleri daha verimlidir ve eğitim aktarım hızı artar. HyperPod, ölçeklendirme işlemleri ve düğüm değiştirmeleri yoluyla küme geliştikçe topolojiyi dinamik olarak uyarlar. Böylece iş yerleştirme, topoloji dosyalarında manuel güncelleme veya Slurm yeniden yapılandırması gerektirmeden küme yaşam döngüsü boyunca optimize edilir.
HyperPod, küme oluşturma sırasında tüm bulut sunucusu gruplarındaki bulut sunucusu türlerini denetler, her bulut sunucusu türünün ağ oluşturma ve ara bağlantı özelliklerini belirler ve otomatik olarak en uygun topoloji modelini seçer. HyperPod, ml.p5.48xlarge, ml.p5e.48xlarge ve ml.p5en.48xlarge gibi hiyerarşik ara bağlantılara sahip bulut sunucusu türleri için ağaç topolojisini ve ml.p6e-gb200.NVL72 gibi tek tip yüksek bant genişliğine sahip bulut sunucusu türleri için blok topolojisini destekler. HyperPod, karışık bulut sunucusu türlerine sahip kümeler için tüm düğümlerde çalışan uyumlu bir topoloji seçer. HyperPod, küme, ölçeklendirme, küçültme veya düğüm değiştirme olayları yoluyla değiştikçe topoloji yapılandırmasını manuel müdahale olmadan otomatik olarak günceller, böylece topoloji her zaman kümenin gerçek durumunu yansıtır.
Kullanmaya başlamak için desteklenen GPU bulut sunucusu türlerine sahip bir SageMaker HyperPod Slurm kümesi oluşturun. Topolojiye duyarlı zamanlama varsayılan olarak etkindir ve yapılandırma gerektirmez.
Bu özellik, Amazon SageMaker HyperPod'un desteklendiği tüm AWS Bölgelerinde kullanılabilir. Topolojiye duyarlı zamanlama hakkında daha fazla bilgi edinmek için Amazon SageMaker HyperPod belgelerini ziyaret edin