Amazon SageMaker HyperPod artık özel Kubernetes etiketlerini ve izlerini destekliyor
Amazon SageMaker HyperPod artık özel Kubernetes etiketlerini ve izlerini destekleyerek müşterilerin pod zamanlamasını kontrol etmelerini ve mevcut Kubernetes altyapısıyla sorunsuz bir şekilde entegre olmalarını sağlıyor. EKS ile yönetilen HyperPod kümelerinde yapay zeka iş yüklerini dağıtan müşteriler, pahalı GPU kaynaklarının sistem pod'ları ve yapay zeka dışı iş yükleri tarafından tüketilmesini önlemek için iş yükü yerleşimi üzerinde hassas kontrole ve EFA ve NVIDIA GPU operatörleri gibi özel cihaz eklentileriyle uyumluluk sağlamaya ihtiyaç duyarlar. Önceden, müşteriler kubectl kullanarak etiket ve izleri manuel olarak uygulamak ve her düğüm değiştirme, ölçekleme veya yama işleminden sonra bunları yeniden uygulamak zorundaydı, bu da önemli operasyonel ek yük oluşturuyordu.
Bu özellik, CreateCluster ve UpdateCluster API'leri aracılığıyla bulut sunucusu grubu düzeyinde etiketleri ve izleri yapılandırmanıza olanak tanır ve tüm düğüm yaşam döngüsü boyunca zamanlama politikalarını tanımlamaya ve sürdürmeye yönelik yönetilen bir yaklaşım sağlar. Yeni KubernetesConfig parametresini kullanarak bulut sunucusu grubu başına en fazla 50 etiket ve 50 iz belirtebilirsiniz. Etiketler düğüm seçicileri aracılığıyla kaynak organizasyonu ve pod hedeflemesini sağlarken, izler özel düğümleri korumak için eşleşen toleransları olmayan pod'ları iter. Örneğin, yalnızca açık toleranslara sahip yapay zeka eğitim işlerinin yüksek maliyetli işlem kaynaklarını tüketmesini sağlamak için GPU bulut sunucusu gruplarına noSchedule izeri uygulayabilir veya cihaz eklenti pod'larının doğru şekilde zamanlamasını sağlayan özel etiketler ekleyebilirsiniz. HyperPod, düğüm oluşturma sırasında bu yapılandırmaları otomatik olarak uygulayarak ve değiştirme, ölçekleme ve yama işlemlerinde bunları koruyarak manuel müdahaleyi ortadan kaldırır ve operasyonel ek yükü azaltır.
Bu özellik, Amazon SageMaker HyperPod'un mevcut olduğu tüm AWS Bölgelerinde kullanılabilir. Özel etiketler ve izler hakkında daha fazla bilgi edinmek için kullanıcı kılavuzuna bakın.