Amazon SageMaker HyperPod açık ağırlıklı model dağıtımını hızlandırıyor
Amazon SageMaker HyperPod artık hem Amazon SageMaker JumpStart'taki açık ağırlıklı temel modelleri hem de Amazon S3 ve Amazon FSx'teki kendi ince ayarlanmış modellerinizi doğrudan Amazon SageMaker HyperPod'a dağıtmayı destekliyor. Bu destek, modelleri aynı HyperPod bilgi işlem kaynakları üzerinde sorunsuz bir şekilde eğitmenize, ince ayar yapmanıza ve dağıtmanıza olanak tanıyarak tüm model yaşam döngüsü boyunca kaynak kullanımını en üst düzeye çıkarır.
Birkaç hızlı adımda SageMaker JumpStart'tan bir açık ağırlıklı temel model seçebilir ve bunu SageMaker HyperPod kümenize hızlıca dağıtabilirsiniz. SageMaker, altyapıyı otomatik olarak hazırlar, modeli kümenize dağıtır, otomatik ölçeklendirmeyi etkinleştirir ve SageMaker uç noktasını yapılandırır. SageMaker, model uç noktalarındaki trafik değiştikçe HyperPod görev yönetişimi aracılığıyla bilgi işlem kaynaklarını yukarı ve aşağı ölçeklendirir ve model performansına ilişkin tam görünürlük sağlamak için metrikleri otomatik olarak HyperPod gözlemlenebilirlik panosunda yayınlar.
HyperPod'un kullanılabildiği tüm AWS bölgelerinde SageMaker JumpStart'tan modeller dağıtabilirsiniz: ABD Doğu (Kuzey Virginia), ABD Batı (K. Kaliforniya), ABD Batı (Oregon), Asya Pasifik (Mumbai), Asya Pasifik (Singapur), Asya Pasifik (Sidney) ve Asya Pasifik (Tokyo), Avrupa (Frankfurt), Avrupa (İrlanda), Avrupa (Londra), Avrupa (Stokholm) ve Güney Amerika (São Paulo).
Daha fazla bilgi edinmek için SageMaker HyperPod web sayfasını, blogu ve belgeleri ziyaret edin.