SageMaker HyperPod artık dinamik küme kullanımı için atıl kaynak paylaşımını destekliyor
Amazon SageMaker HyperPod görev yönetimi artık dinamik kaynak paylaşımını destekliyor. Bu sayede ekipler, garanti edilen kotalarıyla sınırlı kalmayarak HyperPod kümelerindeki tahsis edilmemiş bilgi işlem kapasitesini kullanabilir. Yöneticiler, ekipler arasında adil bir dağıtım sağlamak amacıyla hızlandırıcılar, vCPU veya bellek gibi belirli kaynak türleri için kullanım sınırları da ayarlayabilir.
Üretken yapay zeka iş yükleri için paylaşımlı bilgi işlem kümeleri yöneten yöneticiler, genellikle kapasite yetersizliği sorunlarıyla karşı karşıya kalır. Veri bilimciler kendilerine tahsis edilen kotaları tam olarak kullanmadıklarında, pahalı bilgi işlem bulut sunucuları atıl durumda kalır. Atıl kaynak paylaşımı, tahsis edilmemiş küme kapasitesini otomatik olarak tespit ederek ve bunu ekiplerin "en iyi çaba" ilkesiyle kullanabilmelerini sağlayarak bu sorunu çözüyor. HyperPod görev yönetişimi, kümenizin durumunu izler ve bulut sunucuları ile bilgi işlem kotası politikaları değiştiğinde ödünç alınabilir kaynakları otomatik olarak yeniden hesaplayarak manuel yapılandırma ihtiyacını ortadan kaldırır. Hazır ve planlanabilir durumda olan uygun bulut sunucuları, bölümlenmiş GPU yapılandırmalarına sahip bulut sunucuları da dahil olmak üzere tahsis edilmemiş bilgi işlem kapasitesine ilişkin ödünç alınabilir havuza katkıda bulunur. Yöneticiler, kullanılmayan bilgi işlem kapasitesine ilişkin yüzdeye dayalı kullanım sınırlarının yanı sıra mutlak kullanım sınırları da belirleyebilir. Bu olanak, yöneticilerin bilgi işlem kaynaklarının kullanımını en üst düzeye çıkarmalarına ve atıl kapasitenin ekipler arasında nasıl dağıtılacağı konusunda ayrıntılı kontrol sağlamalarına yardımcı olurken, her ekip için bilgi işlem kotasının izole edilmesini de garanti eder.
Bu özellik şu anda EKS düzenleyicisini kullanan Amazon SageMaker HyperPod kümeleri için aşağıdaki AWS bölgelerinde kullanılabilir: ABD Doğu (Kuzey Virginia), ABD Doğu (Ohio), ABD Batı (Kuzey Kaliforniya), ABD Batı (Oregon), Asya Pasifik (Mumbai), Asya Pasifik (Singapur), Asya Pasifik (Sidney) ve Asya Pasifik (Tokyo), Asya Pasifik (Cakarta), Avrupa (Frankfurt), Avrupa (İrlanda), Avrupa (Londra), Avrupa (Stokholm), Avrupa (İspanya) ve Güney Amerika (São Paulo).
Daha fazla bilgi edinmek için SageMaker HyperPod web sayfasını ve HyperPod görev yönetişimi belgelerini ziyaret edin.