AWS Türkçe Blog
Makine öğrenimi iş yükleriniz için GPU kapasitesi ayırmaya yönelik Amazon EC2 Capacity Blocks for ML’i duyuruyoruz
Orijinal Makale : Link (Channy Yun)
Makine öğrenimi (ML) alanındaki son gelişmeler, her ölçekten ve sektörden kuruluşun müşterilerine yeni ürünleri yeniden keşfetme ve işlerini dönüştürme fırsatlarını ortaya çıkardı. Ancak bu makine öğrenimi modellerini eğitmek, ince ayar yapmak, deneylemek ve çıkarım yapmak için GPU kapasitesine olan talepteki artış, sektör genelindeki arzı geride bırakarak GPU’ları kısıtlı bir kaynak haline getirdi. Kapasite ihtiyaçları içinde bulundukları araştırma ve geliştirme aşamasına bağlı olarak değişkenlik gösteren müşteriler için GPU kapasitesine erişim bir engel teşkil ediyor.
Bugün, ML ve üretken yapay zeka modellerini eğitmek ve dağıtmak için GPU sunucularına erişimi kolaylaştırarak ML’i daha da demokratikleştiren yeni bir Amazon EC2 kullanım modeli olan Amazon Elastic Compute Cloud (Amazon EC2) Capacity Blocks for ML‘i duyuruyoruz. EC2 Capacity Blocks ile, Amazon EC2’da mevcut olan en iyi ağ performansını sunmak için peta-bit ölçekli engelsiz bir ağda Elastic Fabric Adapter (EFA) ağ iletişimi kullanarak, yüksek performanslı ML iş yükleri için tasarlanmış EC2 UltraCluster‘lara yerleştirilmiş yüzlerce GPU rezerve edebilirsiniz.
Bu, GPU sunucularını planlamada yeni ve yenilikçi bir yöntemdir; ihtiyacınız olan sayıda sunucuyu gelecekteki bir tarih için yalnızca ihtiyaç duyduğunuz süre kadar rezerve edebilirsiniz. EC2 Capacity Blocks şu anda AWS ABD Doğu (Ohio) Bölgesi’ndeki NVIDIA H100 Tensor Core GPU’lar tarafından desteklenen Amazon EC2 P5 sunucuları için kullanılabilir. EC2 Capacity Blocks ile GPU sunucularını yalnızca birkaç tıklamayla rezerve edebilir ve makine öğrenimi geliştirmenizi güvenle planlayabilirsiniz. EC2 Capacity Blocks, ML eğitimi için EC2’daki en yüksek performansı sunan EC2 P5 örneklerine herkesin önceden tahmin edilebilir şekilde erişmesini kolaylaştırır.
EC2 Capacity Block rezervasyonları otel odası rezervasyonlarına benzer şekilde çalışır. Bir otel rezervasyonunda, odanızı istediğiniz tarihi ve süreyi ve istediğiniz yatak boyutunu belirtirsiniz ─örneğin bir orta boy yatak veya büyük boy yatak. Benzer şekilde, EC2 Capacity Block rezervasyonlarında, GPU örneklerine ihtiyaç duyduğunuz tarih ve süreyi ve rezervasyonun boyutunu (sunucu sayısı) seçersiniz. EC2 Capacity Block başlangıç tarihinizde, satın aldığınız EC2 Capacity Block’a erişebilir ve P5 örneklerinizi başlatabilirsiniz. EC2 Capacity Block süresinin sonunda, hala çalışan tüm sunucular sonlandırılacaktır.
ML modellerini eğitmek veya ince ayar yapmak, deneyler yürütmek veya ML uygulamalarına yönelik gelecekteki talep artışlarını planlamak için kapasite güvencesine ihtiyaç duyduğunuzda EC2 Capacity Blocks’u kullanabilirsiniz. Alternatif olarak, iş açısından kritik uygulamalar, yasal gereklilikler veya olağanüstü durum kurtarma gibi bilgi işlem kapasitesi güvencesi gerektiren diğer tüm iş yükü türleri için On-Demand Capacity Reservations kullanmaya devam edebilirsiniz.
Amazon EC2 Capacity Blocks for ML’i kullanmaya başlama
EC2 Capacity Blocks’larınızı rezerve etmek için, ABD Doğu (Ohio) Bölgesi’ndeki Amazon EC2 konsolunda Capacity Reservations‘ı seçin. İki kapasite rezervasyon seçeneği görebilirsiniz. Purchase Capacity Blocks for ML‘i, ardından Get started‘ı seçerek bir EC2 Capacity Block aramaya başlayın.
Toplam kapasitenizi seçin ve EC2 Capacity Block’a ne kadar süreyle ihtiyacınız olduğunu belirtin. Bir EC2 Capacity Block’u aşağıdaki boyutlarda rezerve edebilirsiniz: 1, 2, 4, 8, 16, 32 veya 64 p5.48xlarge. EC2 Capacity Block’ları rezerve edebileceğiniz toplam gün sayısı 1 günlük artışlarla 1- 14 gündür. EC2 Capacity Blocks 8 hafta öncesine kadar satın alınabilir.
EC2 Capacity Block fiyatları dinamiktir ve EC2 Capacity Block satın aldığınız andaki toplam mevcut arz ve talebe bağlıdır. Diğer EC2 Capacity Block seçeneklerini aramak için belirlediğiniz özelliklerdeki boyutu, süreyi veya tarih aralığını ayarlayabilirsiniz. Find Capacity Blocks seçeneğini tercih ettiğinizde AWS, belirttiğiniz tarih aralığında spesifikasyonlarınızı karşılayan mevcut en düşük fiyatlı teklifi döndürür. Bu noktada, EC2 Capacity Block için fiyat gösterilir.
EC2 Capacity Blocks ayrıntılarını, etiketlerini ve toplam fiyat bilgilerini inceledikten sonra Purchase (Satın Al) öğesini seçin. Bir EC2 Capacity Block’un toplam fiyatı peşin olarak tahsil edilir ve satın alma işleminden sonra fiyat değişmez. Ödeme, EC2 Capacity Blocks’u satın aldıktan sonra 12 saat içinde hesabınıza faturalandırılacaktır.
Tüm EC2 Capacity Blocks rezervasyonları Koordineli Evrensel Saat (UTC) ile 11:30’da başlar. EC2 Capacity Blocks satın alındıktan sonra değiştirilemez veya iptal edilemez.
EC2 Capacity Blocks satın almak için AWS Command Line Interface (AWS CLI) ve AWS SDK‘lerini de kullanabilirsiniz. Kümeleme gereksinimlerinizi sağlamak ve satın alınabilecek mevcut bir EC2 Capacity Block bulmak için describe-capacity-block-offerings API’ını kullanın.
CapacityBlockOfferingId ve önceki komuttaki kapasite bilgileri ile kullanılabilir bir EC2 Capacity Block bulduktan sonra, satın almak için purchase-capacity-block-reservation API’ını kullanabilirsiniz.
Yeni EC2 Capacity Blocks API’ları hakkında daha fazla bilgi için Amazon EC2 API dokümanlarına bakın.
EC2 Capacity Block’unuz şimdi başarıyla planlandı. Zamanlanan başlangıç tarihinde, EC2 Capacity Block’unuz etkin hale gelecektir. Başlangıç tarihinizde etkin bir EC2 Capacity Block kullanmak için EC2 Capacity Block’unuzun kapasite rezervasyon ID’sini seçin. Capacity details bölümünde kapasitenin şu anda nasıl kullanıldığını gösteren satın aldığınız Capacity Block’ların bir dökümünü görebilirsiniz.
EC2 Capacity Block’unuzda sunucu başlatmak için Launch instances (Sunucuları başlat) öğesini seçin ve EC2 sunucularını başlatmak ve makine öğrenimi iş yüklerinizi çalıştırmak için normal süreci izleyin.
Advanced details (Gelişmiş ayrıntılar) bölümünde, satın alma seçeneği olarak Capacity Blocks‘u (Kapasite Blokları) seçin ve hedeflemeye çalıştığınız EC2 Capacity Block’un kapasite rezervasyon ID’sini seçin.
EC2 Capacity Block bitiş zamanınız yaklaştıkça Amazon EC2, Amazon EventBridge aracılığıyla bir event yayınlayarak rezervasyonunuzun yakında sona ereceğini bildirir, böylece iş yükünüzü kontrol edebilirsiniz. EC2 Capacity Block’ta çalışan tüm sunucular, rezervasyonunuz sona ermeden 30 dakika önce kapanma durumuna geçer. EC2 Capacity Block için sizden tahsil edilen tutar bu süreyi içermez. EC2 Capacity Block’unuzun süresi dolduğunda, hala çalışan tüm sunucular sonlandırılacaktır.
Artık kullanılabilir
Amazon EC2 Capacity Blocks for ML artık AWS ABD Doğu (Ohio) Bölgesi’ndeki p5.48xlarge örnekleri için kullanılabilir. Bir EC2 Capacity Block’u rezerve etmeden önce fiyatını görüntüleyebilirsiniz ve bir EC2 Capacity Block’un toplam fiyatı satın alma sırasında peşin olarak tahsil edilir. Daha fazla bilgi için EC2 Capacity Blocks for ML fiyatlandırma sayfasına bakın.
Daha fazla bilgi edinmek için EC2 Capacity Blocks for ML dokümanlarına bakın ve AWS re:Post for EC2 adresine veya olağan AWS Destek irtibatlarınız aracılığıyla geri bildirim gönderin.