SageMaker HyperPod artık LLM görevlerinin Topoloji Bilinçli Zamanlamasını destekliyor
SageMaker HyperPod görev yönetişimi artık Topoloji Bilinçli Zamanlamayı (TAS) destekliyor. Bu, veri bilimcilerinin büyük dil modeli (LLM) görevlerini ağ iletişimini en aza indiren ve eğitim verimliliğini artıran optimum ağ topolojisi üzerinde planlamalarına olanak tanır.
Birden çok hızlandırılmış işlem bulut sunucularına dağıtılan LLM eğitimi ve ince ayar görevleri, aralarında sıklıkla büyük hacimli veri alışverişi yapar. Bulut sunucuları arasında birden fazla ağ atlaması, LLM görev performansını etkileyen daha yüksek iletişim gecikmesine neden olabilir. SageMaker HyperPod görev yönetişimi artık veri bilimcilerinin belirli topoloji tercihleriyle görev planlarken ağ topolojisi bilgilerini kullanmasına olanak tanır. HyperPod'daki ağ topolojisini kullanarak, SageMaker HyperPod görev yönetişimi görevleri otomatik olarak en uygun konumlarda planlar, bulut sunucusundan bulut sunucusuna iletişimi azaltır ve eğitim verimliliğini artırır.
SageMaker HyperPod görev yönetişimi, HyperPod'un kullanılabildiği tüm AWS Bölgelerinde kullanılabilir: ABD Batı (K. Kaliforniya), ABD Batı (Oregon), Asya Pasifik (Singapur), Asya Pasifik (Sidney), Avrupa (Frankfurt), Avrupa (İrlanda), Avrupa (Stokholm).
Daha fazla bilgi edinmek için SageMaker HyperPod web sayfasını ve SageMaker HyperPod görev yönetişimi belgelerini ziyaret edin.