Amazon SageMaker fiyatlandırması
Fiyatlandırmaya genel akış
Amazon SageMaker, makine öğrenimi (ML) için amaca özel oluşturulmuş geniş bir özellik setini bir araya getirerek veri bilimcilerin ve geliştiricilerin yüksek kaliteli ML modelleri hazırlamalarına, oluşturmalarına, eğitmelerine ve dağıtmalarına yardımcı olur. SageMaker, önde gelen makine öğrenimi çerçevelerini, araç setlerini ve programlama dillerini destekler.
SageMaker ile yalnızca kullandığınız kadar ödersiniz. Ödeme için iki seçeneğiniz var: hiçbir minimum ücret veya ön taahhüt içermeyen İstek Üzerine Fiyatlandırma ve tutarlı miktarda kullanım taahhüdü karşılığında kullanıma dayalı esnek bir fiyatlandırma modeli sunan SageMaker Savings Plans.
Amazon SageMaker Ücretsiz Kullanım
Amazon SageMaker'ı denemek ücretsizdir. AWS Ücretsiz Kullanım kapsamında, Amazon SageMaker'ı ücretsiz olarak kullanmaya başlayabilirsiniz. Ücretsiz kullanımınız, ilk SageMaker kaynağınızı oluşturduğunuz aydan itibaren başlar. Amazon SageMaker'ın ücretsiz kullanım detayları aşağıdaki tabloda belirtilmiştir.
Amazon SageMaker özelliği | İlk 2 ay boyunca aylık Ücretsiz Kullanım |
Studio not defterleri ve not defteri bulut sunucuları | Studio not defterlerinde 250 saatlik ml.t3.medium bulut sunucusu VEYA not defteri bulut sunucularında 250 saatlik ml.t2 medium bulut sunucusu ya da ml.t3.medium bulut sunucusu |
SageMaker'da RStudio | RSession uygulamasında 250 saatlik ml.t3.medium bulut sunucusu VE RStudioServerPro uygulaması için ücretsiz ml.t3.medium bulut sunucusu |
Data Wrangler | 25 saatlik ml.m5.4xlarge bulut sunucusu |
Özellik Deposu | 10 milyon yazma birimi, 10 milyon okuma birimi, 25 GB depolama alanı (standart çevrimiçi depo) |
Eğitim | 50 saatlik m4.xlarge veya m5.xlarge bulut sunucusu kullanımı |
TensorBoard ile Amazon SageMaker | 300 saatlik ml.r5.large bulut sunucusu kullanımı |
Gerçek Zamanlı Çıkarım | 125 saatlik m4.xlarge veya m5.xlarge bulut sunucuları |
Sunucusuz Çıkarım | 150.000 saniyelik istek üzerine çıkarım süresi |
Canvas | Oturum süresi için 160 saat/ay |
HyperPod | 50 saatlik m5.xlarge bulut sunucusu |
İstek Üzerine Fiyatlandırma
-
Stüdyo Klasik
-
JupyterLab
-
Kod Düzenleyici
-
RStudio
-
Not Defteri Bulut Sunucuları
-
İşleme
-
TensorBoard
-
Data Wrangler
-
Özellik Mağazası
-
Eğitim
-
MLflow
-
Gerçek Zamanlı Çıkarım
-
Zaman Uyumsuz Çıkarım
-
Toplu Dönüşüm
-
Sunucusuz Çıkarım
-
JumpStart
-
Profil Oluşturucu
-
HyperPod
-
Çıkarım optimizasyonu
-
Stüdyo Klasik
-
Amazon SageMaker Stüdyosu Klasik
Stüdyo Klasik, eski IDE deneyimimizde tek adımlı Jupyter not defterlerini sunar. Temeldeki işlem kaynakları tamamen esnektir ve not defterleri başkalarıyla kolayca paylaşılarak sorunsuz iş birliği sağlamaktadır. Kullanım sürenize bağlı olarak seçtiğiniz bulut sunucusu türüne göre ücretlendirilirsiniz. -
JupyterLab
-
Amazon SageMaker JupyterLab
Tamamen yönetilen JupyterLab'i saniyeler içinde başlatın. Not defterleri, kodlar ve veriler için en son web tabanlı etkileşimli geliştirme ortamını kullanın. Kullanım sürenize bağlı olarak seçtiğiniz bulut sunucusu türüne göre ücretlendirilirsiniz. -
Kod Düzenleyici
-
Amazon SageMaker Kod Düzenleyici
Code-OSS'ye (Visual Studio Code — Açık Kaynak) dayalı Kod Düzenleyici, analizlerinizi ve makine öğrenimi kodunuzu yazmanıza, test etmenize, hata ayıklamanıza ve çalıştırmanıza olanak tanır. SageMaker Stüdyo ile tamamen entegredir ve Open VSX uzantılı kayıt defterinde bulunan IDE uzantılarını destekler. -
RStudio
-
RStudio
RStudio, model geliştirmeyi hızlandırmak ve üretkenliği artırmak için istek üzerine bulut işlem kaynakları sunar. RStudio Session uygulamasını ve RStudio Server Pro uygulamasını çalıştırmak için seçtiğiniz bulut sunucusu tipleri için ücretlendirilirsiniz.
RStudioServerPro Uygulaması
-
Not Defteri Bulut Sunucuları
-
Not Defteri Bulut Sunucuları
Not defteri bulut sunucuları, Jupyter not defteri uygulamasını çalıştıran işlem bulut sunucularıdır. Kullanım sürenize bağlı olarak seçtiğiniz bulut sunucusu tipine göre ücretlendirilirsiniz.
-
İşleme
-
Amazon SageMaker Processing
Amazon SageMaker Processing, ön işleme, son işleme ve model değerlendirme iş yüklerinizi tam olarak yönetilen altyapıda kolayca çalıştırmanıza olanak tanır. Kullanım sürenize bağlı olarak seçtiğiniz bulut sunucusu tipine göre ücretlendirilirsiniz.
-
TensorBoard
-
TensorBoard ile Amazon SageMaker
TensorBoard ile Amazon SageMaker, Amazon SageMaker eğitim işlerine yönelik model yakınsama sorunlarını görselleştirmek ve bunlarda hata ayıklamak için, barındırılan bir TensorBoard deneyimi sunar.
-
Data Wrangler
-
Amazon SageMaker Data Wrangler
Amazon SageMaker Data Wrangler, makine öğrenimi için verileri toplamak ve hazırlamak üzere gereken süreyi haftalardan dakikalara indirir. Verileri temizlemek, keşfetmek ve görüntülemek için kullanılan süreye göre ücretlendirilirsiniz. SageMaker Data Wrangler bulut sunucularını çalıştıran müşteriler aşağıdaki fiyatlandırmaya tabidir.* SageMaker Canvas çalışma alanı bulut sunucularında SageMaker Data Wrangler çalıştıran müşteriler, SageMaker Canvas fiyatlandırmasına tabidir. Daha fazla ayrıntı için SageMaker Canvas fiyatlandırma sayfasına bakın.
Amazon SageMaker Data Wrangler işleri
Bir Amazon SageMaker Data Wrangler işi, bir veri akışı SageMaker Data Wrangler’dan dışa aktarıldığı zaman oluşturulur. SageMaker Data Wrangler işleri ile veri hazırlama iş akışlarınızı otomatikleştirebilirsiniz. SageMaker Data Wrangler işleri, size zaman kazandırmak için yeni veri dizinlerinde veri hazırlama iş akışlarınızı yeniden uygulamanıza yardımcı olur ve saniye başına faturalandırılır.
-
Özellik Mağazası
-
Amazon SageMaker Özellik Mağazası
Amazon SageMaker Özellik Deposu, makine öğrenimi için özellikler almak, depolamak ve sunmak üzere kullanılan bir merkezi depodur. SageMaker Özellik Deposu'nda özellik grubu yazma, okuma ve veri depolama alanı için standart çevrimiçi depoya ve bellek içi çevrimiçi depoya yönelik farklı fiyatlandırma ile ücretlendirilirsiniz.Standart çevrimiçi depo için veri depolama, aylık GB başına ücretlendirilir. Aktarım hızı için istek üzerine veya tedarik edilen kapasite modu arasında seçim yapabilirsiniz. İstek üzerine modunda, yazmalar KB başına yazma isteği birimi olarak ve okumalar 4 KB başına okuma isteği birimi olarak ücretlendirilir. Tedarik edilen kapasite modu için uygulamanızın ihtiyaç duymasını beklediğiniz okuma ve yazma kapasitesini belirtirsiniz. Sagemaker Özellik Deposu, saniyede her yazma için bir WCU (en fazla 1 KB) ve saniyede her okuma için bir RCU (en fazla 4 KB) ücret alır. Tedarik edilen kapasitenin tamamını kullanmasanız bile sizden özellik grubunuz için tedarik ettiğiniz aktarım hızı kapasitesi (okumalar ve yazmalar) için ücret alınır.
Bellek içi çevrimiçi depo için yazma işlemleri, yazma başına en az 1 birim olmak üzere KB başına yazma isteği birimi olarak ücretlendirilir, okuma işlemleri ise okuma başına minimum 1 birim olmak üzere KB başına okuma isteği birimi olarak ücretlendirilir ve veri depolama, GB-saat başına ücretlendirilir. Bellek içi çevrimiçi depo için saatte minimum 5 GiB (5,37 GB) veri depolama ücreti vardır.
-
Eğitim
-
Amazon SageMaker Eğitim
Amazon SageMaker, modelleri eğitmek, ayarlamak ve hata ayıklamak için ihtiyacınız olan her şeyi sağlayarak makine öğrenimi (ML) modellerini eğitmeyi kolaylaştırır. Seçtiğiniz bulut sunucusu tipine göre faturalandırılırsınız. Eğitim sırasında sorunları ayıklamak ve kaynakları görüntülemek için Amazon SageMaker Hata Ayıklayıcısı kullandığınızda eğitim işlerinizin sorunlarını ayıklamak veya kendi özel kurallarınızı yazmak için yerleşik kurallar kullanabilirsiniz. Eğitim işlerinizin sorunlarını ayıklamak üzere yerleşik kurallar kullanmak için ücret ödemezsiniz. Özel kurallar için kullanım sürenize bağlı olarak seçtiğiniz bulut sunucusu tipine göre ücretlendirilirsiniz.
-
MLflow
-
MLflow ile Amazon SageMaker
MLflow özellikli Amazon SageMaker, müşterilerin yalnızca kullandıkları kadarına ödeme yapmasına olanak tanır. Müşteriler, MLflow İzleme Sunucuları için hesaplama ve depolama maliyetlerine göre ödeme yapar.
Müşteriler, işlem için İzleme Sunucusunun boyutuna ve çalıştığı süreye (saat cinsinden) göre ödeme yapacaklardır. Ek olarak, müşteriler MLflow İzleme Sunucusunda depolanan tüm meta veriler için ödeme yapacaktır.
-
Gerçek Zamanlı Çıkarım
-
Amazon SageMaker Barındırma: Gerçek Zamanlı Çıkarım
Amazon SageMaker, gerçek zamanlı çıkarımlara ihtiyaç duyduğunuz kullanım örnekleriniz için gerçek zamanlı çıkarım sağlamaktadır. Seçtiğiniz bulut sunucusu tipine göre faturalandırılırsınız. Gerçek zamanlı çıkarım sağlayan yüksek oranda doğru modellerinizi sürdürmek için Amazon SageMaker Model Monitor kullandığınızda modellerinizi görüntülemek veya kendi özel kurallarınızı yazmak üzere yerleşik kurallar kullanabilirsiniz. Yerleşik kurallar için 30 saat ücretsiz izleme hakkı elde edersiniz. Ek ücretler, kullanım süresine bağlı olacaktır. Kendi özel kurallarınızı kullandığınızda ayrı olarak ücretlendirilirsiniz.
-
Zaman Uyumsuz Çıkarım
-
Amazon SageMaker Eşzamansız Çıkarım:
Amazon SageMaker Eşzamansız Çıkarım, gelen istekleri sıraya alan ve bunları eşzamansız olarak işleyen, neredeyse gerçek zamanlı bir çıkarım seçeneğidir. Veriler geldikçe büyük yükleri işlemeniz veya uzun çıkarım işleme süreleri olan ve bir saniyeden kısa gecikme süresi gereksinimleri olmayan modelleri çalıştırmanız gerektiğinde bu seçeneği kullanın. Seçtiğiniz bulut sunucusu türü için ücretlendirilirsiniz. -
Toplu Dönüşüm
-
Amazon SageMaker Toplu Dönüşüm
Amazon SageMaker Toplu Dönüşüm kullanarak veri kümenizi birden çok parçaya bölmeye veya gerçek zamanlı uç noktaları yönetmeye gerek yoktur. SageMaker Batch Transform, büyük veya küçük toplu veri kümeleri üzerinde tahminler çalıştırmanıza olanak tanır. Kullanım sürenize bağlı olarak seçtiğiniz bulut sunucusu tipine göre ücretlendirilirsiniz.
-
Sunucusuz Çıkarım
-
Amazon SageMaker Serverless Inference
Amazon SageMaker Sunucusuz Çıkarım, temel altyapılardan hiçbirini yapılandırmadan veya yönetmeden çıkarım için makine öğrenimi modellerini dağıtmanızı sağlar. Tahmin edilebilir performans için isteğe bağlı Sunucusuz Çıkarım kullanabilir veya uç noktanıza Tedarik Edilen Eş Zamanlılık ekleyebilirsiniz.İstek üzerine Sunucusuz Çıkarım'da, yalnızca çıkarım isteklerini işlemede kullanılan, milisaniyelik olarak faturalandırılan işlem kapasitesi ve işlenen veri miktarı için ödeme yaparsınız. İşlem ücreti seçtiğiniz bellek yapılandırmasına bağlıdır.
Tedarik Edilen Eş Zamanlılıkİsteğe bağlı olarak sunucusuz uç noktalarınız için Tedarik Edilen Eş Zamanlılık da etkinleştirilebilir. Tedarik Edilen Eş Zamanlılık, uç noktalarınızı belirtilen sayıda eş zamanlı istek ve belirtilen süre için hazırda tutarak öngörülebilir performans ve yüksek ölçeklenebilirlik ile sunucusuz uç noktalara modeller dağıtmanızı sağlar. İstek üzerine Sunucusuz Çıkarım'da olduğu gibi Tedarik Edilen Eş Zamanlılık etkinleştirildiğinde çıkarım isteklerini işlemede kullanılan, milisaniyelik olarak faturalandırılan işlem kapasitesi ve işlenen veri miktarı için ödeme yaparsınız. Yapılandırılan belleğe, tedarik edilen süreye ve etkinleştirilmiş eş zamanlılık miktarına bağlı olarak Tedarik Edilen Eş Zamanlılık kullanımı için ödeme yaparsınız.
-
JumpStart
-
Amazon SageMaker JumpStart
Amazon SageMaker JumpStart, popüler model koleksiyonlarına ("model hayvanat bahçeleri" olarak da bilinir) tek tıkla erişimle makine öğrenimini hızlı ve kolay bir şekilde kullanmaya başlamanıza yardımcı olur. JumpStart, ihtiyaçlarınıza göre özelleştirilebilen yaygın makine öğrenimi kullanım örneklerini çözen uçtan uca çözümler de sunar. JumpStart model veya çözümlerinin kullanımı için ek ücret uygulanmaz. Temelde kullanılan Eğitim ve Çıkarım bulut sunucusu saatleri için, bunları manuel olarak oluşturmuşsunuz gibi ücretlendirilirsiniz.
-
Profil Oluşturucu
-
Amazon SageMaker Profil Oluşturucu, yüksek çözünürlüklü CPU ve GPU izleme grafiklerinin görselleştirilmesi için sistem düzeyinde veriler toplar. Bu araç, veri bilimcilerin ve mühendislerin derin öğrenme modellerinde donanımla ilgili performans sorunlarını belirlemelerine yardımcı olmak için tasarlanmıştır ve uçtan uca eğitim süresinden ve maliyetinden tasarruf sağlar. SageMaker Profil Oluşturucu şu anda yalnızca ml.g4dn.12xlarge, ml.p3dn.24xlarge ve ml.p4d.24xlarge eğitim bilgi işlem bulut sunucusu türlerinden yararlanan eğitim işlerinin profilini oluşturmayı destekler.
Bölgeler: ABD Doğu (Ohio), ABD Doğu (K. Virginia), ABD Batı (Oregon), Avrupa (Frankfurt), Avrupa (İrlanda) ve İsrail (Tel Aviv).Amazon SageMaker Profil Oluşturucu şu anda önizleme aşamasındadır ve desteklenen bölgelerdeki müşterilere ücretsiz olarak sunulmaktadır.
-
HyperPod
-
Amazon SageMaker HyperPod
Amazon SageMaker HyperPod, altyapı modeli (FM) geliştirmesini hızlandırmak için özel olarak tasarlanmıştır. FM eğitimini daha esnek hale getirmek için küme sağlığını sürekli olarak izler, hatalı düğümleri anında onarır ve değiştirir ve ilerlemeyi kaybetmeden otomatik olarak eğitime devam etmek için sık kontrol noktalarını kaydeder. SageMaker HyperPod, kümenin işlem ve ağ altyapısını tam olarak kullanırken FM eğitim performansını artırmanıza olanak tanıyan SageMaker dağıtılmış eğitim kitaplıklarıyla önceden yapılandırılmıştırNot: SageMaker HyperPod fiyatlandırması; Amazon EKS, Lustre İçin Amazon FSx ve Amazon Simple Storage Service (Amazon S3) gibi HyperPod kümelerine bağlı hizmetlere ilişkin ücretleri kapsamaz.
-
Çıkarım optimizasyonu
-
Çıkarım optimizasyonu araç seti, Amazon SageMaker'da gelişmiş (SOTA) maliyet performansı elde etmek için en son çıkarım optimizasyonu tekniklerini uygulamanızı kolaylaştırırken, geliştirici zamanından aylar ölçeğinde tasarruf etmenizi sağlar. SageMaker tarafından sağlanan popüler optimizasyon tekniklerinden oluşan menüden seçim yaparak optimizasyon işlerini önceden çalıştırabilir, performans ve doğruluk ölçümleri bakımından modeli karşılaştırabilir, ardından optimize edilmiş modeli çıkarım için bir SageMaker uç noktasına dağıtabilirsiniz.
Bulut sunucusu ayrıntıları
Amazon SageMaker P5 bulut sunucusu ürün ayrıntıları
Bulut Sunucusu Boyutu | vCPU'lar | Bulut Sunucusu Belleği (TiB) | GPU Modeli | GPU | Toplam GPU belleği (GB) | GPU başına bellek (GB) | Ağ Bant Genişliği (Gbps) | GPUDirect RDMA | GPU Eşler Arası | Bulut Sunucusu Depolama Alanı (TB) | EBS Bant Genişliği (Gbps) |
ml.p5.48xlarge | 192 | 2 | NVIDIA H100 | 8 | 640 HBM3 | 80 | 3200 EFAv2 | Evet | 900 GB/s NVSwitch | 8x3.84 NVMe SSD | 80 |
Amazon SageMaker P4d bulut sunucusu ürün ayrıntıları
Bulut Sunucusu Boyutu | vCPU'lar | Bulut Sunucusu Belleği (GiB) | GPU Modeli | GPU sayısı | Toplam GPU belleği (GB) | GPU başına bellek (GB) | Ağ Bant Genişliği (Gbps) | GPUDirect RDMA | GPU Eşler Arası | Bulut Sunucusu Geçici Diski (GB) | EBS Bant Genişliği (Gbps) |
ml.p4d.24xlarge | 96 | 1152 | NVIDIA A100 | 8 | 320 HBM 2 | 40 | 400 ENA ve EFA | Evet | 600 GB/s NVSwitch | 8x1000 NVMe SSD | 19 |
ml.p4de.24xlarge | 96 | 1152 | NVIDIA A100 | 8 | 640 HNM2e | 80 | 400 ENA ve EFA | Evet | 600 GB/s NVSwitch | 8x1000 NVMe SSD | 19 |
Amazon SageMaker P3 bulut sunucusu ürün ayrıntıları
Bulut Sunucusu Boyutu | vCPU'lar | Bulut Sunucusu Belleği (GiB) | GPU Modeli | GPU sayısı | Toplam GPU belleği (GB) | GPU başına bellek (GB) | Ağ Bant Genişliği (Gbps) | GPU Eşler Arası | Bulut Sunucusu Geçici Diski (GB) | EBS Bant Genişliği (Gbps) |
ml.p3.2xlarge | 8 | 61 | NVIDIA V100 | 1 | 16 | 16 | 10'a varan | Yok | Yalnızca EBS | 1,5 |
ml.p3.8xlarge | 32 | 244 | NVIDIA V100 | 4 | 64 | 16 | 10 | NVLink | Yalnızca EBS | 7 |
ml.p3.16xlarge | 64 | 488 | NVIDIA V100 | 8 | 128 | 16 | 25 | NVLink | Yalnızca EBS | 14 |
ml.p3dn.24xlarge | 96 | 768 | NVIDIA V100 | 8 | 256 | 32 | 100 | NVLink | 2 x 900 NVMeSSD | 19 |
Amazon SageMaker P2 bulut sunucusu ürün ayrıntıları
Bulut Sunucusu Boyutu | vCPU'lar | Bulut Sunucusu Belleği (GiB) | GPU Modeli | GPU sayısı | Toplam GPU belleği (GB) | GPU başına bellek (GB) | Ağ Bant Genişliği (Gbps) | EBS Bant Genişliği (Gbps) |
ml.p2.xlarge | 4 | 61 | NVIDIA K80 | 1 | 12 | 12 | 10'a varan | Yüksek |
ml.p2.8xlarge | 32 | 488 | NVIDIA K80 | 8 | 96 | 12 | 10 | 10 |
ml.p2.16xlarge | 64 | 732 | NVIDIA K80 | 16 | 192 | 12 | 25 | 20 |
Amazon SageMaker G4 bulut sunucusu ürün ayrıntıları
Bulut Sunucusu Boyutu | vCPU'lar | Bulut Sunucusu Belleği (GiB) | GPU Modeli | GPU sayısı | Toplam GPU belleği (GB) | GPU başına bellek (GB) | Ağ Bant Genişliği (Gbps) | Bulut Sunucusu Geçici Diski (GB) | EBS Bant Genişliği (Gbps) |
ml.g4dn.xlarge | 4 | 16 | NVIDIA T4 | 1 | 16 | 16 | 25'e varan | 1 x 125 NVMe SSD | 3,5'e varan |
ml.g4dn.2xlarge | 8 | 32 | NVIDIA T4 | 1 | 16 | 16 | 25'e varan | 1 x 125 NVMe SSD | 3,5'e varan |
ml.g4dn.4xlarge | 16 | 64 | NVIDIA T4 | 1 | 16 | 16 | 25'e varan | 1 x 125 NVMe SSD | 4,75 |
ml.g4dn.8xlarge | 32 | 128 | NVIDIA T4 | 1 | 16 | 16 | 50 | 1 x 900 NVMe SSD | 9,5 |
ml.g4dn.16xlarge | 64 | 256 | NVIDIA T4 | 1 | 16 | 16 | 50 | 1 x 900 NVMe SSD | 9,5 |
ml.g4dn.12xlarge | 48 | 192 | NVIDIA T4 | 4 | 64 | 16 | 50 | 1 x 900 NVMe SSD | 9,5 |
Amazon SageMaker G5 bulut sunucusu ürün ayrıntıları
Bulut Sunucusu Boyutu | vCPU'lar | Bulut Sunucusu Belleği (GiB) | GPU Modeli | GPU sayısı | Toplam GPU Belleği (GB) | GPU başına bellek (GB) | Ağ Bant Genişliği (Gbps) | EBS Bant Genişliği (Gbps) | Bulut Sunucusu Geçici Diski (GB) |
ml.g5n.xlarge | 4 | 16 | NVIDIA A10G | 1 | 24 | 24 | 10'a varan | 3,5'e varan | 1x250 |
ml.g5.2xlarge | 8 | 32 | NVIDIA A10G | 1 | 24 | 24 | 10'a varan | 3,5'e varan | 1x450 |
ml.g5.4xlarge | 16 | 64 | NVIDIA A10G | 1 | 24 | 24 | 25'e varan | 8 | 1x600 |
ml.g5.8xlarge | 32 | 128 | NVIDIA A10G | 1 | 24 | 24 | 25 | 16 | 1x900 |
ml.g5.16xlarge | 64 | 256 | NVIDIA A10G | 1 | 24 | 24 | 25 | 16 | 1x1900 |
ml.g5.12xlarge | 48 | 192 | NVIDIA A10G | 4 | 96 | 24 | 40 | 16 | 1x3800 |
ml.g5.24xlarge | 96 | 384 | NVIDIA A10G | 4 | 96 | 24 | 50 | 19 | 1x3800 |
ml.g5.48xlarge | 192 | 768 | NVIDIA A10G | 8 | 192 | 24 | 100 | 19 | 2x3800 |
Amazon SageMaker Trn1 bulut sunucusu ürün ayrıntıları
Bulut Sunucusu Boyutu | vCPU'lar | Bellek (GiB) | Trainium Hızlandırıcılar | Toplam Hızlandırıcı Belleği (GB) | Hızlandırıcı Başına Bellek (GB) | Bulut Sunucusu Depolama Alanı (GB) | Ağ bant genişliği (Gb/sn.) | EBS Bant Genişliği (Gbps) |
ml.trn1.2xlarge | 8 | 32 | 1 | 32 | 32 | 1 x 500 NVMe SSD | 12,5'e varan | 20'ye kadar |
ml.trn1.32xlarge | 128 | 512 | 16 | 512 | 32 | 4 x 2000 NVMe SSD | 800 | 80 |
Amazon SageMaker Inf1 bulut sunucusu ürün ayrıntıları
Bulut Sunucusu Boyutu | vCPU'lar | Bellek (GiB) | Inferentia Hızlandırıcılar | Toplam Hızlandırıcı Belleği (GB) | Hızlandırıcı Başına Bellek (GB) | Bulut Sunucusu Depolama Alanı | Hızlandırıcılar Arası Bağlantı | Ağ Bant Genişliği (Gbps) | EBS Bant Genişliği (Gbps) |
ml.inf1.xlarge | 4 | 8 | 1 | 8 | 8 | Yalnızca EBS | Yok | 25'e kadar | 4,75'e varan |
ml.inf1.2xlarge | 8 | 16 | 1 | 8 | 8 | Yalnızca EBS | Yok | 25'e kadar | 4,75'e varan |
ml.inf1.6xlarge | 24 | 48 | 4 | 32 | 8 | Yalnızca EBS | Evet | 25 | 4,75 |
ml.inf1.24xlarge | 96 | 192 | 16 | 128 | 8 | Yalnızca EBS | evet | 100 | 19 |
Amazon SageMaker Inf2 bulut sunucusu ürün ayrıntıları
Bulut Sunucusu Boyutu | vCPU'lar | Bellek (GiB) | Inferentia Hızlandırıcılar | Toplam Hızlandırıcı Belleği (GB) | Hızlandırıcı Başına Bellek (GB) | Bulut Sunucusu Depolama Alanı | Hızlandırıcılar Arası Bağlantı | Ağ Bant Genişliği (Gbps) | EBS Bant Genişliği (Gbps) |
ml.inf2.xlarge | 4 | 16 | 1 | 32 | 32 | Yalnızca EBS | Yok | 25'e varan | 10'a varan |
ml.inf2.8xlarge | 32 | 128 | 1 | 32 | 32 | Yalnızca EBS | Yok | 25'e varan | 10 |
ml.inf2.24xlarge | 96 | 384 | 6 | 196 | 32 | Yalnızca EBS | Evet | 50 | 30 |
ml.inf2.48xlarge | 192 | 768 | 12 | 384 | 32 | Yalnızca EBS | Evet | 100 | 60 |
Amazon SageMaker Stüdyosu
Amazon SageMaker Stüdyosu, tam olarak yönetilen entegre geliştirme ortamları (IDE'ler) ve amaca yönelik araçlar sunan, eksiksiz makine öğrenimi geliştirmesi için tek bir web tabanlı arayüzdür. SageMaker Stüdyo'ya ücretsiz olarak erişebilirsiniz. Yalnızca SageMaker Stüdyosu içindeki farklı IDE'ler ve makine öğrenimi araçları için kullandığınız temel işlem ve depolama için ücret alınır.
SageMaker Stüdyosu, Python İçin AWS SDK (Boto3) veya AWS Komut Satırı Arabirimi'nden (AWS CLI) aşağıdakiler dahil olmak üzere birçok hizmeti kullanabilirsiniz:
- JupyterLab, Code-OSS'ye dayalı Kod Düzenleyici (Visual Studio Code - Açık Kaynak) ve RStudio dahil olmak üzere tamamen yönetilen geniş bir IDE kümesiyle eksiksiz ML geliştirme gerçekleştirmek için SageMaker Stüdyosu'nda IDE'ler
- Makine öğrenimi iş akışlarını otomatikleştirmek ve yönetmek için SageMaker İşlem Hatları
- Tam görünürlük içeren makine öğrenimi modellerini otomatik olarak oluşturmak için SageMaker Otomatik Pilot
- Eğitim işlerinizi ve sürümlerinizi düzenlemek ve takip etmek için SageMaker Deneyler
- Eğitim sırasında anormalliklere yönelik hata ayıklama süreci için SageMaker Hata Ayıklayıcı
- Yüksek kaliteli modelleri sürdürmek için SageMaker Model Monitor
- Makine öğrenimi modellerinizi daha iyi açıklamak ve sapmaları tespit etmek için SageMaker Clarify
- Birçok kullanım örneği için makine öğrenimi çözümlerini kolayca dağıtmaya yönelik SageMaker JumpStart. Amazon SageMaker tarafından sizin adınıza yapılan temeldeki API çağrıları için çözümde kullanılan diğer AWS hizmetleri ücretleri alınabilir.
- Doğru uç nokta yapılandırması ile ilgili öneriler almak için SageMaker Çıkarım Danışmanı
Kullanımınıza bağlı olarak yalnızca SageMaker içindeki temel işlem ve depolama kaynakları veya diğer AWS hizmetleri için ücret ödersiniz.
JupyterLab ve Code Editor'da Amazon Q Geliştirici Ücretsiz Kullanım'dan yararlanmak için buradaki talimatları izleyin. JupyterLab'de Amazon Q Geliştirici Pro'yu kullanmak için Amazon Q Geliştirici aboneliğinizin olması gerekir. Amazon Q Geliştirici fiyatlandırmasına buradan ulaşabilirsiniz.
Altyapı modeli değerlendirmeleri
SageMaker Clarify, altyapı modeli değerlendirmelerini hem otomatik hem de insan tabanlı değerlendirme yöntemleriyle destekler. Bunların her birinin fiyatlandırması farklıdır. Amazon SageMaker JumpStart'tan henüz hesabınıza dağıtılmamış bir altyapı modeli değerlendiriyorsanız SageMaker, JumpStart modelini çıkarım süresi boyunca geçici olarak bir SageMaker bulut sunucusuna dağıtacaktır. Bu bulut sunucusu, JumpStart tarafından söz konusu model için sağlanan bulut sunucusu önerisine uyacaktır.
Otomatik değerlendirme:
Altyapı modeli değerlendirmeleri, SageMaker işleme işi olarak çalışır. Değerlendirme işi, SageMaker Çıkarımı'nı çağıracaktır. Müşterilerden çıkarım ve değerlendirme işi için ücret alınır. Müşterilerden yalnızca değerlendirme işinin süresi için ücret alınır. Değerlendirme işinin maliyeti, değerlendirme bulut sunucusunun saat başına maliyetinin toplamı ile barındırma bulut sunucusunun saat başına maliyetinin toplamı olacaktır.
İnsan temelli değerlendirme:
Kendi iş gücünüzü getirdiğiniz insan tabanlı değerlendirme özelliğini kullandığınızda, üç öğe için ücretlendirilirsiniz: 1) çıkarım için kullanılan SageMaker bulut sunucusu, 2) insan değerlendirmesini barındıran SageMaker İşleme İşi'ni çalıştırmak için kullanılan bulut sunucusu ve 3) tamamlanan insan değerlendirme görevi başına 0,21 USD tutarında bir ücret. Bir insan görevi, bir insan çalışanın, insan değerlendirme kullanıcı arabiriminde tek bir istem ve bununla ilişkili çıkarım yanıtlarının bir değerlendirmesini sunması olarak tanımlanır. Değerlendirme işinizde 1 veya 2 modeliniz olmasına veya kendi çıkarımınızı getirmenize bakılmaksızın fiyat aynıdır ve ayrıca kaç değerlendirme boyutu ve derecelendirme yöntemi eklediğiniz de fark etmez. Görev başına 0,21 USD fiyatlandırması tüm AWS bölgeleri için aynıdır. İş gücü sizin tarafınızdan tedarik edildiğinden, iş gücü için ayrı bir ücret alınmaz.
AWS tarafından yönetilen değerlendirme:
AWS tarafından yönetilen bir uzman değerlendirmesi için fiyatlandırma, AWS uzman değerlendirme ekibiyle çalışırken özel bir etkileşimde değerlendirme ihtiyaçlarınıza göre özelleştirilir.
Amazon SageMaker Stüdyo Laboratuvarı
Amazon SageMaker Stüdyo Laboratuvarı'nı ücretsiz olarak kullanarak makine öğrenimi modelleri oluşturabilir ve eğitebilirsiniz. SageMaker Stüdyo Laboratuvarı; geliştiricilere, akademisyenlere ve veri bilimcilerine makine öğrenimini hiçbir ek ücret ödemeden öğrenmek ve denemek için kullanabilecekleri, yapılandırma gerektirmeyen bir geliştirme ortamı sunar.
Amazon SageMaker Canvas
Amazon SageMaker Canvas, iş analistlerine görsel bir üzerine tıklama arabirimi kullanmak suretiyle doğru makine öğrenimi (ML) tahminleri oluşturma yeteneği sağlayarak ML erişimini genişletir; kodlama veya ML alanında deneyim gerektirmez.
Amazon SageMaker Data Labeling
Amazon SageMaker Data Labeling iki veri etiketleme teklifi sunar: Amazon SageMaker Ground Truth Plus ve Amazon SageMaker Ground Truth. ML için yüksek oranda doğruluğa sahip eğitim veri kümeleri oluşturmayı kolaylaştıran bir tam olarak yönetilen veri etiketleme hizmeti olan Amazon SageMaker Veri Etiketleme hakkında daha fazla bilgi edinebilirsiniz.
Amazon SageMaker gölge testi
SageMaker, kendi performansını şu anda dağıtılan modele göre test ederek yeni bir makine öğrenimi modelini yayınlanmadan önce değerlendirmek için gölge testleri çalıştırmanıza yardımcı olur. SageMaker gölge testinde, gölge modeli barındırmak üzere tedarik edilen makine öğrenimi bulut sunucuları ve makine öğrenimi depolaması için kullanım ücretleri dışında herhangi bir ek ücret alınmaz. Makine öğrenimi bulut sunucuları ve makine öğrenimi depolama boyutları için fiyatlandırma, önceki fiyatlandırma tablosunda belirtilen gerçek zamanlı çıkarım seçeneğiyle aynıdır. Gölge dağıtımlarda ve gölge dağıtımlar dışında işlenen veriler için ek bir ücret alınmaz.
Amazon SageMaker Edge
Uç cihaz filolarındaki makine öğrenimi modellerini optimize etmek, çalıştırmak ve izlemek için Amazon SageMaker Edge fiyatlandırması hakkında daha fazla bilgi edinin.
Amazon SageMaker Savings Plans
Amazon SageMaker Tasarruf Planları, maliyetlerinizi %64'e kadar düşürmenize yardımcı olur. Planlar, bulut sunucusu ailesi, boyut veya bölgeye bakılmaksızın SageMaker Stüdyo not defterleri, SageMaker not defteri bulut sunucuları, SageMaker İşleme, SageMaker Data Wrangler, SageMaker Eğitim, SageMaker Gerçek Zamanlı Çıkarım ve SageMaker Toplu Dönüşüm dahil olmak üzere uygun SageMaker makine öğrenimi bulut sunucusu kullanımına otomatik olarak uygulanır. Örneğin, istediğiniz zaman ABD Doğu (Ohio) bölgesinde çalışan bir CPU bulut sunucusu ml.c5.xlarge kullanımından ABD Batı (Oregon) bölgesinde çalışan bir ml.Inf1 bulut sunucusuna geçiş yapabilir ve Tasarruf Planları fiyatlarını otomatik olarak ödemeye devam edebilirsiniz.
Amazon SageMaker ile toplam sahip olma maliyeti (TCO)
Amazon SageMaker, kendi kendine yönetilen diğer bulut tabanlı çözümlere kıyasla üç yıllık bir dönemde en az %54 daha düşük toplam sahip olma maliyeti (TCO) sunar. Amazon SageMaker için tam TCO analizi ile daha fazla bilgi edinin.
Fiyatlandırma örnekleri
-
Fiyatlandırma örneği 1: JupyterLab
Bir veri bilimcisi olarak, bir ml.g4dn.xlarge bulut sunucusunda günde 6 saat boyunca not defterleri, kod ve veriler üzerinde hızlı deneme yapmak için JupyterLab'i 20 gün kullanıyorsunuz. JupyterLab IDE'ye erişmek için bir JupyterLab alanı oluşturup çalıştırıyorsunuz. İşlem, yalnızca JupyterLab alanı çalışırken kullanılan bulut sunucusu için ücretlendirilir. JupyterLab alanı için depolama ücretleri, silininceye kadar tahakkuk eder.İşlem
Bulut Sunucusu Süre Gün Toplam süre Saatlik maliyet Toplam ml.g4dn.xlarge 6 saat 20 6 * 20 = 120 saat 0,7364 USD 88,368 USD Depolama
Genel Amaçlı SSD depolama alanını 480 saat (24 saat * 20 gün) kullanacaksınız. GB-ay başına 0,1125 USD ücret alan bir bölgede:
GB-ay başına 0,112 USD * 5 GB * 480 / (24 saat/gün * 30 gün ay) = 0,373 USD -
Fiyatlandırma örneği 2: Kod Düzenleyici
Bir makine öğrenimi mühendisi olarak, bir ml.g4dn.xlarge bulut sunucusunda günde 6 saat boyunca makine öğrenimi üretim kodu düzenleme, yürütme ve hata ayıklama işlemleri için Kod Düzenleyiciyi 20 gün kullanıyorsunuz. Kod Düzenleyici IDE'ye erişmek için bir Kod Düzenleyici alanı oluşturup çalıştırıyorsunuz. İşlem, yalnızca Kod Düzenleyici alanı çalışırken kullanılan bulut sunucusu için ücretlendirilir. Kod Düzenleyici alanı için depolama ücretleri, silininceye kadar tahakkuk eder.İşlem
Bulut Sunucusu Süre Gün Toplam süre Saatlik maliyet Toplam ml.g4dn.xlarge 6 saat 20 6 * 20 = 120 saat 0,7364 USD 88,368 USD Depolama
Genel Amaçlı SSD depolama alanını 480 saat (24 saat * 20 gün) kullanacaksınız. GB-ay başına 0,1125 USD ücret alan bir bölgede:
GB-ay başına 0,112 USD * 5 GB * 480 / (24 saat/gün * 30 gün ay) = 0,373 USD
-
Fiyatlandırma örneği 3: Stüdyo Klasik
Bir veri bilimcisi, Amazon SageMaker Stüdyosu Klasik'te not defterlerini kullanırken aşağıdaki eylem sırasını izler.
- Bir ml.c5.xlarge bulut sunucusunda TensorFlow çekirdeğinde not defteri 1'i açar ve ardından bu not defterinde 1 saat çalışır.
- Not defteri 2'yi bir ml.c5.xlarge bulut sunucusunda açar. Not defteri 1’i çalıştıran aynı ml.c5.xlarge bulut sunucusunda otomatik olarak açılır.
- Not defteri 1 ve not defteri 2 üzerinde 1 saat aynı anda çalışır.
- Veri bilimcisi toplam 2 saatlik ml.c5.xlarge kullanımı için faturalandırılacaktır. Aynı anda not defteri 1 ve not defteri 2 üzerinde çakışan çalışma saati için her çekirdek uygulaması 0,5 saat boyunca ölçülecek ve 1 saat için faturalandırılacaktır.
Çekirdek uygulaması Not defteri bulut sunucusu Saat Saatlik maliyet Toplam TensorFlow ml.c5.xlarge 1 0,204 USD 0,204 USD TensorFlow ml.c5.xlarge 0,5 0,204 USD 0,102 USD Data Science ml.c5.xlarge 0,5 0,204 USD 0,102 USD 0,408 USD -
Fiyatlandırma örneği 4: RStudio
Bir veri bilimcisi, RStudio kullanırken aşağıdaki eylem sırasını izliyor:
- Bir ml.c5.xlarge bulut sunucusunda RSession 1 başlatıyor ve ardından bu not defterinde 1 saat çalışıyor.
- Bir ml.c5.xlarge bulut sunucusunda RSession 2 başlatıyor. Bu, RSession 1'i çalıştıran aynı ml.c5.xlarge bulut sunucusunda otomatik olarak açılıyor.
- 1 saat boyunca aynı anda hem RSesssion 1 hem de RSession 2 üzerinde çalışıyor.
- Veri bilimcisi toplam iki (2) saatlik ml.c5.xlarge kullanımı için faturalandırılacaktır. Aynı anda hem RSession 1 hem de RSession 2 üzerinde çakışan çalışma saati için her RSession uygulaması 0,5 saat boyunca ölçülecek ve 1 saat için faturalandırma yapılacaktır.
Bu esnada RServer, çalışmakta olan RSession'lar olup olmamasından bağımsız olarak 7/24 çalışır. Yönetici, "Küçük" (ml.t3.medium) seçeneğini belirlerse ücretlendirme yapılmayacaktır. Yönetici, "Orta" (ml.c5.4xlarge) veya "Büyük" (ml.c5.9xlarge) seçeneğini belirlerse RStudio, SageMaker Etki Alanı için etkinleştirildiği takdirde saatlik olarak ücretlendirme yapılacaktır.
RSession uygulaması RSession bulut sunucusu Saat Saatlik maliyet Toplam Base R ml.c5.xlarge 1 0,204 USD 0,204 USD Base R ml.c5.xlarge 0,5 0,204 USD 0,102 USD Base R ml.c5.xlarge 0,5 0,204 USD 0,102 USD 0,408 USD -
Fiyatlandırma örneği 5: İşlem Merkezi
Amazon SageMaker İşlem Merkezi, yalnızca işleriniz çalıştığı sırada kullanılan bulut sunucuları için ücretlendirme yapar. Giriş verilerini işlenmeleri için Amazon S3'e sağlamanızın ardından Amazon SageMaker, bir işleme işinin başında söz konusu verileri Amazon S3'ten yerel bir depolama alanına indirir.
Veri analisti, iki ml.m5.4xlarge bulut sunucusundaki verileri ön işleme tabi tutmak ve doğrulamak için bir işleme işi çalıştırır. Bu işlem 10 dakika sürer. İşleme işinde kullanılması için girdi olarak S3'e 100 GB veri kümesi yükler. Yaklaşık olarak aynı boyuttaki çıkış verileri de yine S3'te depolanır.
Saat İşleme bulut sunucuları Saatlik maliyet Toplam 1 * 2 * 0,167 = 0,334 ml.m5.4xlarge 0.922 USD 0,308 USD Genel amaçlı (SSD) depolama (GB) Saatlik maliyet Toplam 100 * 2 = 200 GB 0,14 USD 0,0032 USD Amazon SageMaker İşleme işi için ara toplam = 0,308 USD.
200 GB genel amaçlı SSD depolama için ara toplam = 0,0032 USD.
Bu örnek için toplam fiyat 0,3112 USD olur.
-
Fiyatlandırma örneği 6: Data Wrangler
Tabloya göre verilerinizi hazırlamak için Amazon SageMaker Data Wrangler'ı 3 gün boyunca toplam 18 saattir kullanıyorsunuz. Buna ek olarak haftalık olarak güncellenmiş veri hazırlamak için bir SageMaker Data Wrangler işi oluşturuyorsunuz. Her iş 40 dakika sürüyor ve iş bir ay boyunca haftalık olarak çalışıyor.
Data Wrangler kullanımı için toplam aylık ücretler = 16,596 USD + 2,461 USD = 19,097 USD
Uygulama SageMaker Studio bulut sunucusu Gün Süre Toplam süre Saatlik maliyet Maliyet ara toplamı SageMaker Data Wrangler ml.m5.4xlarge 3 6 saat 18 Saat 0.922 USD 16,596 USD SageMaker Data Wrangler işi ml.m5.4xlarge - 40 Dakika 2,67 Saat 0.922 USD 2,461 USD Bir veri bilimcisi olarak üç gün boyunca günde 6 saatinizi verilerinizi temizlemek, keşfetmek ve görüntülemek için Amazon SageMaker Data Wrangler kullanarak harcıyorsunuz. Veri hazırlama işlem hattı uygulamak için daha sonra haftalık olarak çalışacak şekilde programlanmış SageMaker Data Wrangler işi başlatıyorsunuz.
Aşağıdaki tablo, aylık toplam kullanımınızı ve Amazon SageMaker Data Wrangler kullanımı için ilgili maliyetleri özetler.
-
Fiyatlandırma Örneği 7: Özellik Deposu
++ Tüm kısmi okuma birimleri sıradaki tam sayıya yuvarlanır
Veri Depolama
Depolanan toplam veri = 31,5 GB
Veri depolama için aylık ücretler = 31,5 GB * 0,45 USD = 14,175 USDAmazon SageMaker Özellik Deposu için toplam aylık ücretler = 56,875 USD + 3,185 USD + 14,175 USD = 74,235 USD
Ayın günü Toplam yazma Toplam yazma birimleri Toplam okuma Toplam okuma birimleri 1.güden 10. güne 100.000 yazma
(10.000 yazma * 10 gün)2.500.000
(100.000 * 25KB )100.000
(10.000 * 10 gün)700.000++
(100.000 * 25/4 KB )11.Gün 200.000 yazma 5.000.000
(200.000* 25KB)200.000 okuma 1.400.000++
(200.000* 25/4KB)12. günden 30. güne 1.520.000 yazma
(80.000 * 19 gün)38.000.000
(1.520.000* 25KB)1.520.000 yazma
(80.000 * 19 gün)10.640.000++
(1.520.000 * 25/4KB)Toplam ücretlendirilebilir birimler 45.500.000 yazma birimi 12.740.000 okuma birimi Yazma ve okumalar için aylık ücretler 56,875 USD
(45,5 milyon yazma birimi * 1,25 USD milyon yazma başına)3,185 USD
(12.74 milyon okuma birimi * milyon okuma başına 0,25 USD)Amazon SageMaker Özellik Deposu'nda her biri 25 KB okuma ve yazmalar yapan bir web uygulamanız var. Ayın ilk 10 günü için SageMaker Özellik Mağazası’na günlük 10.000 yazma ve 10.000 okuma ile uygulamanızda küçük bir trafik oluşmaktadır. Ayın 11. gününde uygulamanız sosyal medyada dikkat çeker ve uygulama trafiğiniz o gün 200.000 yazma ve 200.000 okuma değerine sıçrar. Ardından uygulamanız, daha düzenli bir trafik desenine geçerek ay sonunda, günlük 80.000 yazma ve 80.000 okuma değerine ulaşır.
Aşağıdaki tablo, aylık toplam kullanımınızı ve Amazon SageMaker Özellik Deposu kullanımı için ilgili maliyetleri özetler.
-
Fiyatlandırma örneği 8: Eğitim
Bu örnekteki eğitim ve hata ayıklama işlemleri için toplam ücret 2,38 USD olur. Amazon SageMaker Hata Ayıklayıcı yerleşik kurallarının kullandığı işlem bulut sunucuları ve genel amaçlı depolama birimleri için ek ücret uygulanmaz.
Eğitim için genel amaçlı (SSD) depolama (GB) Hata ayıklayıcısı yerleşik kuralları için genel amaçlı (SSD) depolama (GB) Hata ayıklayıcısı özel kuralları için genel amaçlı (SSD) depolama (GB) GB-ay başına maliyet Ara toplam Kullanılan kapasite 3 2 1 Maliyet 0 USD Yerleşik kurallı depolama birimleri için ek ücret uygulanmaz 0 USD 0,10 USD 0 USD Saat Eğitim bulut sunucusu Hata ayıklama bulut sunucusu Saatlik maliyet Ara toplam 4 * 0,5 = 2,00 ml.m4.4xlarge yok 0,96 USD 1,92 USD 4 * 0,5 * 2 = 4 yok Yerleşik kurallı bulut sunucuları için ek ücret uygulanmaz 0 USD 0 USD 4 * 0,5 = 2 ml.m5.xlarge yok 0,23 USD 0,46 USD ------- 2,38 USD Bir veri bilimcisi, yeni bir fikir için bir hafta boyunca bir model üzerinde çalıştı. Modeli, bir ml.m4.4xlarge bulut sunucusunu kullanarak 30'ar dakikadan 4 kez eğitti. Eğitme işlemi için, 2 yerleşik kural ve kendi yazdığı 1 özel kuralla etkinleştirdiği Amazon SageMaker Hata Ayıklayıcısı'nı kullandı. Özel kural için ml.m5.xlarge bulut sunucusunu belirtti. Eğitim için, Amazon S3'teki 3 GB eğitim verisinden yararlandı ve Amazon S3'e 1 GB model çıktısı gönderdi. SageMaker, her bir eğitim bulut sunucusu için genel amaçlı SSD (gp2) birimleri oluşturur. SageMaker aynı zamanda, belirtilen her bir kural için genel amaçlı SSD (gp2) birimleri oluşturur. Bu örnekte toplam 4 genel amaçlı SSD (gp2) birimi oluşturulur. SageMaker Hata Ayıklayıcı, müşterinin Amazon S3 bucket'ına 1 GB hata ayıklama verisi gönderir.
-
Fiyatlandırma örneği 9: MLflow
İki veri bilimcisi ekibiniz var. Bir ekipte 10 veri bilimcisi, diğer ekipte 40 veri bilimcisi var. Bu iki ekibi barındırmak için, biri Small, diğeri Medium olmak üzere iki farklı MLflow İzleme Sunucusunu etkinleştirmeyi seçiyorsunuz. Her ekip makine öğrenimi (ML) deneyleri yürütüyor ve eğitim girişimleri tarafından üretilen ölçümleri, parametreleri ve yapıtları kaydetmesi gerekiyor. MLflow İzleme Sunucularını ayda 160 saat kullanmak istiyorlar. Her Veri Bilimi ekibinin deneylerdeki çalıştırmaları izlemek için 1 GB meta veri depoladığını varsayalım. Ay sonunda fatura şu şekilde hesaplanır:
Small Bulut Sunucuları için işlem ücretleri: 160 * 0,60 USD = 96 USD
Medium Bulut Sunucusu için işlem ücretleri: 160 * 1,40 USD = 166,4 USD
İki ekip için depolama ücretleri: 2 * 1 * 0,10 = 0,20 USDToplam = 262,60 USD
-
Fiyatlandırma örneği 10: Gerçek zamanlı çıkarım
Eğitim, barındırma ve izleme için ara toplam = 305,827 USD. Barındırma için aylık işlenen 3.100 MB Gelen veri ve 310 MB Giden veri için ara toplam = 0,054 USD. Bu örnek için toplam ücret aylık 305,881 USD olur.
Not: ml.m5.xlarge bulut sunucusundaki yerleşik kurallar için, hiçbir ücret ödemeden tüm uç noktalarda toplam 30 saate kadar izleme imkanı elde edersiniz.
Aylık gelen veri - barındırma Aylık giden veri - barındırma Gelen veya Giden GB başına maliyet Toplam 100 MB * 31 = 3.100 MB 0,016 USD 0,0496 USD 10 MB * 31 = 310 MB 0,016 USD 0,00496 USD Aylık saat sayısı Barındırma bulut sunucuları Model İzleme bulut sunucuları Saatlik maliyet Toplam 24 * 31 * 2 = 1488 ml.c5.xlarge 0,204 USD 303,522 USD 31 * 0,08 = 2,5 ml.m5.4xlarge 0.922 USD 2,305 USD Örnek 5'te yer alan model, daha sonra güvenilir bir multi-AZ barındırma amacına yönelik olarak iki (2) ml.c5.xlarge bulut sunucusuna üretim için dağıtılıyor. Amazon SageMaker Model İzleme, bir (1) ml.m5.4xlarge bulut sunucusuyla etkinleştiriliyor ve izleme işlerinin günde bir kez gerçekleştirilmesi planlanıyor. Her bir izleme işinin tamamlanması 5 dakika sürüyor. Model günde 100 MB veri alıyor ve çıkarımların boyutu giriş verilerinin 1/10'u kadar oluyor.
-
Fiyatlandırma örneği 11: Eş Zamansız Çıkarım
SageMaker Eş Zamansız Çıkarım için alt toplam = 15,81 USD + 0,56 USD + 2 * 0,0048 = 16,38 USD. Bu örnek için toplam Eş Zamansız Çıkarım ücreti aylık 16,38 USD olur.
Aylık gelen veri Aylık Giden Veri Gelen veya Giden GB başına maliyet Toplam 10 KB * 1.024 * 31 = 310 MB 10 KB * 1.024 * 31 = 310 MB 0,02 USD 0,0048 USD 10 KB * 1.024 * 31 = 310 MB 0,02 USD 0,0048 USD Genel amaçlı (SSD) depolama (GB) GB-ay başına maliyet Toplam 4 0,14 USD 0,56 USD Aylık saat sayısı Barındırma bulut sunucuları Saatlik maliyet Toplam 2,5 * 31 * 1 = 77,5 ml.c5.xlarge 0,20 USD 15,81 USD Amazon SageMaker Eş Zamansız Çıkarım, uç noktanız tarafından kullanılan bulut sunucuları için ücretlendirme yapar. İstekleri aktif olarak işlemediğinde, maliyetlerden tasarruf etmek için örnek sayısını sıfıra ölçeklendirmek için otomatik ölçeklendirmeyi yapılandırabilirsiniz. Amazon S3'teki giriş yükleri için, Amazon S3'ten giriş verilerini okuma ve aynı bölgedeki çıkış verilerini S3'e yazma maliyeti yoktur.
Örnek 5'teki model, bir SageMaker Eşzamansız Çıkarım uç noktasını çalıştırmak için kullanılır. Uç nokta, 1 ml.c5.xlarge bulut sunucusunda çalışacak ve istekleri aktif olarak işlemediğinde bulut sunucusu sayısını sıfıra ölçeklendirecek şekilde yapılandırılmıştır. Uç noktadaki ml.c5.xlarge bulut sunucuna bağlı 4 GB genel amaçlı (SSD) depolama alanı bulunur. Bu örnekte, uç nokta günde 2 saat bulut sunucusu sayısını 1 tutar ve 30 dakikalık bir bekleme süresine sahiptir, ardından günün geri kalanı için bulut sunucusu sayısı sıfıra ölçeklenir. Bu nedenle günlük 2,5 saatlik kullanım için ücretlendirilirsiniz.
Uç nokta günde 1.024 istek işler. Her bir çağrı isteği/yanıt gövdesinin boyutu 10 KB'dir ve Amazon S3'teki her bir çıkarım isteği yükü 100 MB'dir. Çıkarım çıkışları, aynı bölgede Amazon S3'te depolanan giriş verilerinin boyutunun 1/10'udur. Bu örnekte, veri işleme ücretleri istek ve yanıt gövdesi için geçerlidir, ancak Amazon S3'e/S3'ten aktarılan veriler için geçerli değildir.
-
Fiyatlandırma örneği 12: Toplu Dönüştürme
Bu örnekte çıkarım için toplam ücret 2,88 USD olacaktır.
Saat Barındırma bulut sunucuları Saatlik maliyet Toplam 3 * 0,25 * 4 = 3 saat ml.m4.4xlarge 0,96 USD 2,88 USD SageMaker Toplu Dönüştürme'nin çalıştırılması için örnek 5'teki model kullanılıyor. Veri bilimcisi, iş çalıştırma başına 15 dakika olmak üzere 3 ml.m4.4xlarge bulut sunucusunda dört ayrı SageMaker Toplu Dönüşüm işi çalıştırıyor. Her çalıştırma için S3'te 1 GB boyutlu bir değerlendirme veri kümesi yüklüyor ve boyutu giriş verilerinin 10'da 1'i kadar olan çıkarımlar yeniden S3'te depolanıyor.
-
Fiyatlandırma örneği 13: İstek Üzerine Sunucusuz Çıkarım
Aylık veri işleme ücretleri
Veri işleme (GB) Gelen veya Giden GB başına maliyet Aylık veri işleme ücreti 10 GB 0,016 USD 0,16 USD İsteğe bağlı SageMaker Sunucusuz Çıkarım süresi ücretinin alt toplamı = 40 USD. 10 GB veri işleme ücretinin alt toplamı = 0,16 USD. Bu örnek için toplam ücret 40,16 USD olur.
Aylık işlem ücretleri
İstek sayısı Her isteğin süresi Toplam çıkarım süresi (saniye) Saniye başına maliyet Aylık çıkarım süresi ücreti 10 milyon 100 milisaniye 1 milyon 0,00004 USD 40 USD
İstek üzerine Sunucusuz Çıkarım'da, yalnızca çıkarım isteklerini işlemede kullanılan, milisaniyelik olarak faturalandırılan işlem kapasitesi ve işlenen veri miktarı için ödeme yaparsınız. İşlem ücreti, seçtiğiniz bellek yapılandırmasına bağlıdır.
Uç noktanıza 2 GB bellek ayırdıysanız, bir ayda 10 milyon kez yürütüldüyse, her seferinde 100 milisaniye boyunca çalıştıysa ve toplamda 10 GB Gelen/Giden Veri işlediyse ödeyeceğiniz ücret aşağıdaki gibi hesaplanır:
-
Fiyatlandırma Örneği 14: Sunucusuz Çıkarım'da Tedarik Edilen Eş Zamanlılık
Bir bordro işleme şirketi için bir sohbet robotu hizmeti çalıştırdığınızı varsayalım. Mart ayı sonunda, vergi beyannamesi son tarihinden önce müşteri sorgularında bir artış bekliyorsunuz. Ancak, ayın geri kalanında trafiğin düşük olması bekleniyor. Bu nedenle, 2 GB belleğe sahip sunucusuz bir uç nokta dağıtıyor ve uç noktanızın 10 milyon istek ve toplamda 10 GB'lık Veri Giriş/Çıkışı işlediği ayın son 5 gününde 09:00 - 17:00 (8 saat) arasında 100 Tedarik Edilen Eş Zamanlılık ekliyorsunuz. Ayın geri kalanında, sohbet robotu istek üzerine Sunucusuz Çıkarım üzerinde çalışıyor ve 3 milyon istek ile 3 GB Veri Giriş/Çıkışı işliyor. Her istek süresinin 100 milisaniye olduğunu varsayalım.
Tedarik Edilen Eş Zamanlılık (PC) ücretleri:
PC fiyatı 0,000010 USD/sn.
PC kullanım süresi (sn.) = 5 gün * 100 PC * 8 saat * 3600 sn. = 14.400.000 sn.
PC kullanım ücreti = 14.400.000 sn. * 0,000010 USD/sn. = 144 USD.Tedarik Edilen Eş Zamanlılık tarafından sağlanan trafik için çıkarım süresi ücretleri
Çıkarım süresi fiyatı 0,000023 USD/sn.
PC için toplam Çıkarım süresi (sn.) = 10 milyon * (100 milisaniye)/1000 = 1 milyon saniye.
PC için çıkarım süresi ücretleri = 1.000.000 sn. * 0,000023/sn. = 23 USDİstek üzerine çıkarım süresi ücretleri
Aylık işlem ücreti 0,00004 USD/saniyedir ve ücretsiz kullanım 150 bin saniye temin eder.
Toplam işlem (sn.) = (3) milyon * (100 milisaniye)/1000 = 0,3 milyon saniye.
Toplam işlem - Ücretsiz kullanıma tabi işlem = Saniye cinsinden aylık faturalanabilir işlem
0,3 milyon sn. - 150 bin sn. = 150 bin sn.
Aylık işlem ücretleri = 150 bin * 0,00004 USD = 6 USDVeri İşleme
Maliyet / İçeri/Dışarı İşlenen Veri GB'ı = 0,016 USD
İşlenen toplam GB = 10 + 3 = 13
Toplam Maliyet = 0,016 USD * 13 = 0,208 USD
Mart için toplam ücret
Toplam ücret = Tedarik Edilen Eş Zamanlılık ücretleri + Tedarik Edilen Eş zamanlılık için çıkarım süresi + İstek üzerine işlem için çıkarım süresi + Veri İşleme ücretleri
= 144 USD + 23 USD + 6 USD + 0,208 USD = 173,2 USD -
Fiyatlandırma örneği 15: JumpStart
Müşteri, müşteri incelemesi duygusunu olumlu veya olumsuz olarak sınıflandırmak için önceden eğitilmiş bir BERT Base Uncased modelini dağıtmak üzere JumpStart kullanıyor.
Müşteri, güvenilir bir multi-AZ barındırma için modeli iki (2) ml.c5.xlarge bulut sunucusuna dağıtıyor. Model günde 100 MB veri alıyor ve çıkarımların boyutu giriş verilerinin 1/10'u kadar oluyor.
Aylık saat sayısı Barındırma bulut sunucuları Saatlik maliyet Toplam 24 * 31 * 2 = 1488 ml.c5.xlarge 0,204 USD 303,55 USD Aylık Gelen Veri - Barındırma Aylık Giden Veri - Barındırma Gelen veya Giden GB Başına Maliyet
Toplam
100 MB * 31 = 3.100 MB 0,02 USD 0,06 USD 10 MB * 31 = 310 MB 0,02 USD 0,01 USD Eğitim, barındırma ve izleme için ara toplam = 305,827 USD. Barındırma için aylık işlenen 3.100 MB Gelen veri ve 310 MB Giden veri için ara toplam = 0,06 USD. Bu örnekte toplam ücret aylık 305,887 USD olur.
-
Fiyatlandırma örneği 16: HyperPod Kümesi
Model geliştirmeyi desteklemek için 1 ay (30 gün) boyunca bulut sunucusu başına ek 100 GB depolama alanı 4 ml.g5.24xlarge kümesini sağlamak istediğinizi varsayalım. Bu örnekteki küme ve ek depolama için toplam ücret 29.374,40 USD'dir.İşlem
Bulut Sunucusu Süre Bulut sunucuları Saatlik maliyet Ara toplam ml.g5.24xlarge 30 gün * 24 saat = 720 saat 4 10,18 USD 29.318,40 USD Depolama
Genel amaçlı (SSD) depolama Süre Bulut sunucuları GB-ay başına maliyet Ara toplam 100 GB 30 gün * 24 saat = 720 saat 4 0,14 USD 56,00 USD -
Fiyatlandırma Örneği 17: Altyapı modeli değerlendirmeleri (otomatik değerlendirme)
SageMaker Clarify ile altyapı modeli değerlendirmeleri, yalnızca otomatik değerlendirme işleriniz çalışırken kullanılan bulut sunucuları için ücret alır. Bir otomatik değerlendirme görevi ve veri kümesi seçtiğinizde SageMaker, istem veri kümesini Amazon S3'ten bir SageMaker değerlendirme bulut sunucusuna yükler.
Aşağıdaki örnekte, bir ML mühendisi, özetleme görev doğruluğu için ABD Doğu (K. Virginia) Bölgesi'nde Llama2 7B modelinin bir değerlendirmesini yürütür. Llama 2 7B için çıkarım için önerilen bulut sunucusu türü ml.g5.2xlarge'tır. Bir değerlendirme için önerilen minimum bulut sunucusu ml.m5.2xlarge'tır. Bu örnekte, iş 45 dakika (veri kümesinin boyutuna bağlı olarak) boyunca çalışır. Bu örnekte, değerlendirme işi ve ayrıntılı sonuçlar için maliyet 1,48 USD olacaktır.İşleme İşi Saatleri (örnek)
Bölge
Bulut Sunucusu Türü
Bulut Sunucusu
Saatlik maliyet
Maliyet
0,45
us-east-1
LLM barındırma
ml.g5.2xlarge
1,52 USD
1,14 USD
0,45
us-east-1
değerlendirme
ml.m5.2xlarge
0,46 USD
0,35 USD
Toplam
1,48 USD
Bir sonraki örnekte, Virginia'daki aynı mühendis özetleme görevi doğruluğu için başka bir değerlendirme işi çalıştırır ancak Llama 2 7B'nin kendi hesaplarına dağıtılan ve çalışır durumda olan özelleştirilmiş bir Llama 2 7B sürümünü kullanır. Bu durumda, model zaten hesaplarına dağıtıldığından tek artımlı maliyet, değerlendirme bulut sunucusu için olacaktır.
İşleme İşi Saatleri
Bölge
Bulut Sunucusu Türü
Bulut Sunucusu
Saatlik maliyet
Maliyet
0,45
us-east-1
değerlendirme
ml.m5.2xlarge
0,46 USD
0,35 USD
Toplam
0,35 USD
-
Fiyatlandırma Örneği 18: Altyapı modeli değerlendirmeleri (insan temelli değerlendirme)
Aşağıdaki örnekte, ABD Doğu (K. Virginia) Bölgesi'ndeki bir makine öğrenimi mühendisi, özetleme görev doğruluğu için Llama-2-7B'nin insan tabanlı bir değerlendirmesini yürütür ve değerlendirme için kendi özel iş gücünü kullanır. Llama-2-7B için önerilen bulut sunucusu türü ml.g5.2xlarge'tır. İnsan tabanlı değerlendirme İşleme İşi için önerilen minimum bulut sunucusu ml.t3.medium'dur. Llama-2-7B'de çıkarım 45 dakika (veri kümesinin boyutuna bağlıdır) boyunca çalışır. Veri kümesi, 50 istem içerir ve geliştirici, her bir istem-yanıt kümesini derecelendirmek için 2 işçi gerektirir (değerlendirme işi oluşturmada "istem başına işçi" parametresi olarak yapılandırılabilir). Bu değerlendirme işinde 100 görev olacaktır (her çalışan başına her istem-yanıt çifti için 1 görev: 2 işçi x 50 hızlı yanıt kümesi = 100 insan görevi). İnsan iş gücünün, değerlendirme işindeki 100 insan değerlendirme görevini tamamlaması bir gün (24 saat) sürer (bu süre, çalışanların sayısına ve beceri düzeyine ve ayrıca istemlerin ve çıkarım yanıtlarının uzunluğuna/karmaşıklığına bağlıdır).
İşlem Saatleri
İnsan görevleri
Bölge
Bulut Sunucusu Türü
Bulut Sunucusu
Saatlik maliyet
İnsan görevi başına maliyet
Toplam Maliyet
0,45
ABD Doğu (K. Virginia)
LLM barındırma
ml.g5.2xlarge
1,52 USD
1,14 USD
24
ABD Doğu (K. Virginia)
İşleme İşi
ml.t3.medium
0,05 USD
1,20 USD
100
Herhangi bir
0,21 USD
21,00 USD
Toplam
23,34 USD
Bir sonraki örnekte, ABD Doğu (K. Virginia) bölgesindeki aynı mühendis aynı değerlendirme işini çalıştırır ancak halihazırda hesaplarına dağıtılmış ve çalışır durumda olan Llama-2-7B'yi kullanır. Bu durumda, tek artımlı maliyet, değerlendirme işleme işi ve insan görevleri için olacaktır.
İşlem Saatleri
İnsan görevleri
Bölge
Bulut Sunucusu Türü
Bulut Sunucusu
Saatlik maliyet
İnsan görevi başına maliyet
Toplam Maliyet
24
ABD Doğu (K. Virginia)
İşleme İşi
ml.t3.medium
0,05 USD
1,20 USD
100
Herhangi bir
0,21 USD
21,00 USD
Toplam
22,20 USD