Amazon SageMaker HyperPod artık konsoldan düğüm eylemli gerçekleştirmeyi destekliyor
Amazon SageMaker HyperPod artık tek tek küme düğümlerini doğrudan AWS Konsolu'ndan yönetmenize olanak sağlıyor. Büyük ölçekli yapay zeka/makine öğrenimi iş yüklerini yöneten HyperPod küme operatörlerinin sorun giderme, yanıt vermeyen bulut sunucularını yeniden başlatmak veya bozulmuş düğümleri değiştirmek için genellikle düğümlere bağlanmaları gerekir. Bir düğüme bağlanmak için eskiden manuel olarak SSM bağlantı dizeleri oluşturmak gerekirdi ve yeniden başlatma ve değiştirme gibi düğüm kurtarma eylemlerinde CLI komutlarına ihtiyaç olurdu. Artık konsol tüm düğüm eylemleri için tek bir arayüz özelliği sunuyor.
Konsoldaki düğüm eylemleri sayesinde artık AWS Sistem Yöneticisi (SSM) aracılığıyla herhangi bir düğüme bağlanabilirsiniz. Konsol, panoya kopyalama desteği ile önceden doldurulmuş SSM CLI komutları ve konsolda doğrudan SSM oturumu başlatma özelliği sağlar. SageMaker HyperPod kümeleri zaten sağlıksız bulut sunucularının otomatik olarak değiştirilmesini ve yeniden başlatılmasını desteklerdi ama manuel müdahale gerektirebilecek bellek aşmaları veya tespit edilemeyen donanım bozulması gibi senaryolar vardır. Artık konsoldaki düğüm eylemleri, geçici sorunlardan kurtulmak, sağlıksız düğümleri silmek ve düğümleri değiştirmek için düğümleri manuel olarak yeniden başlatmak için tutarlı bir yaklaşım sağlar. Bu, aynı anda birden fazla düğüm eylemini destekleyen toplu işlemler sayesinde düğüm sorunlarını dakikalar içinde çözmenize olanak tanır. Bu özellik, özellikle zamana duyarlı yapay zeka eğitimi ve kesinti süresini en aza indirmenin gerekli olduğu çıkarım iş yüklerini çalıştırırken önemlidir.
Bu özellik, Amazon SageMaker HyperPod'un desteklendiği tüm AWS Bölgelerinde kullanılabilir. Tüm bu düğüm eylemlerini konsoldaki HyperPod Kümesi yönetimi sayfasında gerçekleştirebilirsiniz. Değiştirme/yeniden başlatma ve bir düğüme bağlanma hakkında daha fazla bilgi edinmek için ilgili bağlantılara tıklayın.