Amazon SageMaker, makine öğrenimi (ML) için amaca özel oluşturulmuş geniş bir özellik setini bir araya getirerek veri bilimcilerin ve geliştiricilerin yüksek kaliteli ML modelleri hazırlamalarına, oluşturmalarına, eğitmelerine ve dağıtmalarına yardımcı olur. SageMaker, önde gelen makine öğrenimi çerçevelerini, araç setlerini ve programlama dillerini destekler.

SageMaker ile yalnızca kullandığınız kadar ödersiniz. Ödeme için iki seçeneğiniz var: hiçbir minimum ücret veya ön taahhüt içermeyen İstek Üzerine Fiyatlandırma ve tutarlı miktarda kullanım taahhüdü karşılığında kullanıma dayalı esnek bir fiyatlandırma modeli sunan SageMaker Savings Plans.

Amazon SageMaker Ücretsiz Kullanım

Amazon SageMaker'ı denemek ücretsizdir. AWS Ücretsiz Kullanım kapsamında, Amazon SageMaker'ı ücretsiz olarak kullanmaya başlayabilirsiniz. Ücretsiz kullanımınız, ilk SageMaker kaynağınızı oluşturduğunuz aydan itibaren başlar. Amazon SageMaker'ın ücretsiz kullanım detayları aşağıdaki tabloda belirtilmiştir.

Amazon SageMaker özelliği İlk 2 ay boyunca aylık Ücretsiz Kullanım
Studio not defterleri ve not defteri bulut sunucuları Studio not defterlerinde 250 saatlik ml.t3.medium bulut sunucusu VEYA not defteri bulut sunucularında 250 saatlik ml.t2 medium bulut sunucusu ya da ml.t3.medium bulut sunucusu
SageMaker'da RStudio RSession uygulamasında 250 saatlik ml.t3.medium bulut sunucusu VE RStudioServerPro uygulaması için ücretsiz ml.t3.medium bulut sunucusu
Data Wrangler 25 saatlik ml.m5.4xlarge bulut sunucusu
Özellik Deposu 10 milyon yazma birimi, 10 milyon okuma birimi, 25 GB depolama alanı (standart çevrimiçi depo)
Eğitim 50 saatlik m4.xlarge veya m5.xlarge bulut sunucusu kullanımı
TensorBoard ile Amazon SageMaker 300 saatlik ml.r5.large bulut sunucusu kullanımı
Gerçek Zamanlı Çıkarım 125 saatlik m4.xlarge veya m5.xlarge bulut sunucuları
Sunucusuz Çıkarım 150.000 saniyelik istek üzerine çıkarım süresi
Canvas Oturum süresi için 160 saat/ay
HyperPod 50 saatlik m5.xlarge bulut sunucusu
  İlk 6 ay boyunca aylık Ücretsiz Kullanım
Deneyler
 Aylık alınan 100.000 ölçüm kaydı, aylık geri alınan 1 milyon ölçüm kaydı ve aylık depolanan 100.000 ölçüm kaydı
AWS Fiyatlandırma Hesaplama Aracı

AWS Fiyatlandırma Hesaplama Aracı

Amazon SageMaker ve mimari maliyetinizi tek bir tahminle hesaplayın.

Şimdi özel tahmininizi oluşturun »

İstek Üzerine Fiyatlandırma

  • Stüdyo Klasik

  • Amazon SageMaker Stüdyosu Klasik
    Stüdyo Klasik, eski IDE deneyimimizde tek adımlı Jupyter not defterlerini sunar. Temeldeki işlem kaynakları tamamen esnektir ve not defterleri başkalarıyla kolayca paylaşılarak sorunsuz iş birliği sağlamaktadır. Kullanım sürenize bağlı olarak seçtiğiniz bulut sunucusu türüne göre ücretlendirilirsiniz.

  • JupyterLab

  • Amazon SageMaker JupyterLab
    Tamamen yönetilen JupyterLab'i saniyeler içinde başlatın. Not defterleri, kodlar ve veriler için en son web tabanlı etkileşimli geliştirme ortamını kullanın. Kullanım sürenize bağlı olarak seçtiğiniz bulut sunucusu türüne göre ücretlendirilirsiniz.

  • Kod Düzenleyici

  • Amazon SageMaker Kod Düzenleyici
    Code-OSS'ye (Visual Studio Code — Açık Kaynak) dayalı Kod Düzenleyici, analizlerinizi ve makine öğrenimi kodunuzu yazmanıza, test etmenize, hata ayıklamanıza ve çalıştırmanıza olanak tanır. SageMaker Stüdyo ile tamamen entegredir ve Open VSX uzantılı kayıt defterinde bulunan IDE uzantılarını destekler.

  • RStudio

  • RStudio
    RStudio, model geliştirmeyi hızlandırmak ve üretkenliği artırmak için istek üzerine bulut işlem kaynakları sunar. RStudio Session uygulamasını ve RStudio Server Pro uygulamasını çalıştırmak için seçtiğiniz bulut sunucusu tipleri için ücretlendirilirsiniz.

    RStudioServerPro Uygulaması

  • Not Defteri Bulut Sunucuları

  • Not Defteri Bulut Sunucuları
    Not defteri bulut sunucuları, Jupyter not defteri uygulamasını çalıştıran işlem bulut sunucularıdır. Kullanım sürenize bağlı olarak seçtiğiniz bulut sunucusu tipine göre ücretlendirilirsiniz.

  • İşleme

  • Amazon SageMaker Processing
    Amazon SageMaker Processing, ön işleme, son işleme ve model değerlendirme iş yüklerinizi tam olarak yönetilen altyapıda kolayca çalıştırmanıza olanak tanır. Kullanım sürenize bağlı olarak seçtiğiniz bulut sunucusu tipine göre ücretlendirilirsiniz.

  • TensorBoard

  • TensorBoard ile Amazon SageMaker
    TensorBoard ile Amazon SageMaker, Amazon SageMaker eğitim işlerine yönelik model yakınsama sorunlarını görselleştirmek ve bunlarda hata ayıklamak için, barındırılan bir TensorBoard deneyimi sunar.

  • Data Wrangler

  • Amazon SageMaker Data Wrangler

    Amazon SageMaker Data Wrangler, makine öğrenimi için verileri toplamak ve hazırlamak üzere gereken süreyi haftalardan dakikalara indirir. Verileri temizlemek, keşfetmek ve görüntülemek için kullanılan süreye göre ücretlendirilirsiniz. SageMaker Data Wrangler bulut sunucularını çalıştıran müşteriler aşağıdaki fiyatlandırmaya tabidir.* SageMaker Canvas çalışma alanı bulut sunucularında SageMaker Data Wrangler çalıştıran müşteriler, SageMaker Canvas fiyatlandırmasına tabidir. Daha fazla ayrıntı için SageMaker Canvas fiyatlandırma sayfasına bakın.

    Amazon SageMaker Data Wrangler işleri

    Bir Amazon SageMaker Data Wrangler işi, bir veri akışı SageMaker Data Wrangler’dan dışa aktarıldığı zaman oluşturulur. SageMaker Data Wrangler işleri ile veri hazırlama iş akışlarınızı otomatikleştirebilirsiniz. SageMaker Data Wrangler işleri, size zaman kazandırmak için yeni veri dizinlerinde veri hazırlama iş akışlarınızı yeniden uygulamanıza yardımcı olur ve saniye başına faturalandırılır.

  • Özellik Mağazası

  • Amazon SageMaker Özellik Mağazası
    Amazon SageMaker Özellik Deposu, makine öğrenimi için özellikler almak, depolamak ve sunmak üzere kullanılan bir merkezi depodur. SageMaker Özellik Deposu'nda özellik grubu yazma, okuma ve veri depolama alanı için standart çevrimiçi depoya ve bellek içi çevrimiçi depoya yönelik farklı fiyatlandırma ile ücretlendirilirsiniz.

     Standart çevrimiçi depo için veri depolama, aylık GB başına ücretlendirilir. Aktarım hızı için istek üzerine veya tedarik edilen kapasite modu arasında seçim yapabilirsiniz. İstek üzerine modunda, yazmalar KB başına yazma isteği birimi olarak ve okumalar 4 KB başına okuma isteği birimi olarak ücretlendirilir. Tedarik edilen kapasite modu için uygulamanızın ihtiyaç duymasını beklediğiniz okuma ve yazma kapasitesini belirtirsiniz. Sagemaker Özellik Deposu, saniyede her yazma için bir WCU (en fazla 1 KB) ve saniyede her okuma için bir RCU (en fazla 4 KB) ücret alır. Tedarik edilen kapasitenin tamamını kullanmasanız bile sizden özellik grubunuz için tedarik ettiğiniz aktarım hızı kapasitesi (okumalar ve yazmalar) için ücret alınır.

    Bellek içi çevrimiçi depo için yazma işlemleri, yazma başına en az 1 birim olmak üzere KB başına yazma isteği birimi olarak ücretlendirilir, okuma işlemleri ise okuma başına minimum 1 birim olmak üzere KB başına okuma isteği birimi olarak ücretlendirilir ve veri depolama, GB-saat başına ücretlendirilir. Bellek içi çevrimiçi depo için saatte minimum 5 GiB (5,37 GB) veri depolama ücreti vardır.

  • Eğitim

  • Amazon SageMaker Eğitim
    Amazon SageMaker, modelleri eğitmek, ayarlamak ve hata ayıklamak için ihtiyacınız olan her şeyi sağlayarak makine öğrenimi (ML) modellerini eğitmeyi kolaylaştırır. Seçtiğiniz bulut sunucusu tipine göre faturalandırılırsınız. Eğitim sırasında sorunları ayıklamak ve kaynakları görüntülemek için Amazon SageMaker Hata Ayıklayıcısı kullandığınızda eğitim işlerinizin sorunlarını ayıklamak veya kendi özel kurallarınızı yazmak için yerleşik kurallar kullanabilirsiniz. Eğitim işlerinizin sorunlarını ayıklamak üzere yerleşik kurallar kullanmak için ücret ödemezsiniz. Özel kurallar için kullanım sürenize bağlı olarak seçtiğiniz bulut sunucusu tipine göre ücretlendirilirsiniz.

  • Deneyler

  • Amazon SageMaker Deneyler
    Amazon SageMaker Deneyler ile makine öğrenimi deneylerinizi düzenleyin, takip edin ve karşılaştırın. Ölçüm kayıtlarının alınması, geri alınması ve depolanması için ücretlendirilirsiniz. Bir ölçüm kaydı, temel/önemli bir ölçüm verisi çiftidir. Alma ve geri alma ücretleri, ölçüm kaydı sayısına göre belirlenir. Depolama ücretleri, aylık saklanan ölçüm kaydı sayısına göre belirlenir. Ek ücret ödemeden deneylerinizi görselleştirmek için SageMaker Studio’yu kullanabilirsiniz.

     

    Ücret Türü Fiyat
    Alma Ölçüm kaydı başına 1,25 USD
    Geri Alma Ölçüm kaydı başına 0,25 USD
    Depolama Aylık ölçüm kaydı başına 0,25 USD

     

  • Gerçek Zamanlı Çıkarım

  • Amazon SageMaker Barındırma: Gerçek Zamanlı Çıkarım
    Amazon SageMaker, gerçek zamanlı çıkarımlara ihtiyaç duyduğunuz kullanım örnekleriniz için gerçek zamanlı çıkarım sağlamaktadır. Seçtiğiniz bulut sunucusu tipine göre faturalandırılırsınız. Gerçek zamanlı çıkarım sağlayan yüksek oranda doğru modellerinizi sürdürmek için Amazon SageMaker Model Monitor kullandığınızda modellerinizi görüntülemek veya kendi özel kurallarınızı yazmak üzere yerleşik kurallar kullanabilirsiniz. Yerleşik kurallar için 30 saat ücretsiz izleme hakkı elde edersiniz. Ek ücretler, kullanım süresine bağlı olacaktır. Kendi özel kurallarınızı kullandığınızda ayrı olarak ücretlendirilirsiniz.

  • Eşzamansız Çıkarım

  • Amazon SageMaker Eşzamansız Çıkarım:
    Amazon SageMaker Eşzamansız Çıkarım, gelen istekleri sıraya alan ve bunları eşzamansız olarak işleyen, neredeyse gerçek zamanlı bir çıkarım seçeneğidir. Veriler geldikçe büyük yükleri işlemeniz veya uzun çıkarım işleme süreleri olan ve bir saniyeden kısa gecikme süresi gereksinimleri olmayan modelleri çalıştırmanız gerektiğinde bu seçeneği kullanın. Seçtiğiniz bulut sunucusu türü için ücretlendirilirsiniz.

  • Toplu Dönüşüm

  • Amazon SageMaker Toplu Dönüşüm
    Amazon SageMaker Toplu Dönüşüm kullanarak veri kümenizi birden çok parçaya bölmeye veya gerçek zamanlı uç noktaları yönetmeye gerek yoktur. SageMaker Batch Transform, büyük veya küçük toplu veri kümeleri üzerinde tahminler çalıştırmanıza olanak tanır. Kullanım sürenize bağlı olarak seçtiğiniz bulut sunucusu tipine göre ücretlendirilirsiniz.

  • Sunucusuz Çıkarım

  • Amazon SageMaker Serverless Inference
    Amazon SageMaker Sunucusuz Çıkarım, temel altyapılardan hiçbirini yapılandırmadan veya yönetmeden çıkarım için makine öğrenimi modellerini dağıtmanızı sağlar. Tahmin edilebilir performans için isteğe bağlı Sunucusuz Çıkarım kullanabilir veya uç noktanıza Tedarik Edilen Eş Zamanlılık ekleyebilirsiniz.

    İstek üzerine Sunucusuz Çıkarım'da, yalnızca çıkarım isteklerini işlemede kullanılan, milisaniyelik olarak faturalandırılan işlem kapasitesi ve işlenen veri miktarı için ödeme yaparsınız. İşlem ücreti seçtiğiniz bellek yapılandırmasına bağlıdır.

    Tedarik Edilen Eş Zamanlılık

    İsteğe bağlı olarak sunucusuz uç noktalarınız için Tedarik Edilen Eş Zamanlılık da etkinleştirilebilir. Tedarik Edilen Eş Zamanlılık, uç noktalarınızı belirtilen sayıda eş zamanlı istek ve belirtilen süre için hazırda tutarak öngörülebilir performans ve yüksek ölçeklenebilirlik ile sunucusuz uç noktalara modeller dağıtmanızı sağlar. İstek üzerine Sunucusuz Çıkarım'da olduğu gibi Tedarik Edilen Eş Zamanlılık etkinleştirildiğinde çıkarım isteklerini işlemede kullanılan, milisaniyelik olarak faturalandırılan işlem kapasitesi ve işlenen veri miktarı için ödeme yaparsınız. Yapılandırılan belleğe, tedarik edilen süreye ve etkinleştirilmiş eş zamanlılık miktarına bağlı olarak Tedarik Edilen Eş Zamanlılık kullanımı için ödeme yaparsınız.

  • JumpStart

  • Amazon SageMaker JumpStart
    Amazon SageMaker JumpStart, popüler model koleksiyonlarına ("model hayvanat bahçeleri" olarak da bilinir) tek tıkla erişimle makine öğrenimini hızlı ve kolay bir şekilde kullanmaya başlamanıza yardımcı olur. JumpStart, ihtiyaçlarınıza göre özelleştirilebilen yaygın makine öğrenimi kullanım örneklerini çözen uçtan uca çözümler de sunar. JumpStart model veya çözümlerinin kullanımı için ek ücret uygulanmaz. Temelde kullanılan Eğitim ve Çıkarım bulut sunucusu saatleri için, bunları manuel olarak oluşturmuşsunuz gibi ücretlendirilirsiniz.

  • Profil Oluşturucu

  • Amazon SageMaker Profil Oluşturucu, yüksek çözünürlüklü CPU ve GPU izleme grafiklerinin görselleştirilmesi için sistem düzeyinde veriler toplar. Bu araç, veri bilimcilerin ve mühendislerin derin öğrenme modellerinde donanımla ilgili performans sorunlarını belirlemelerine yardımcı olmak için tasarlanmıştır ve uçtan uca eğitim süresinden ve maliyetinden tasarruf sağlar. SageMaker Profil Oluşturucu şu anda yalnızca ml.g4dn.12xlarge, ml.p3dn.24xlarge ve ml.p4d.24xlarge eğitim bilgi işlem bulut sunucusu türlerinden yararlanan eğitim işlerinin profilini oluşturmayı destekler.

    Bölgeler: ABD Doğu (Ohio), ABD Doğu (K. Virginia), ABD Batı (Oregon), Avrupa (Frankfurt), Avrupa (İrlanda) ve İsrail (Tel Aviv).

    Amazon SageMaker Profil Oluşturucu şu anda önizleme aşamasındadır ve desteklenen bölgelerdeki müşterilere ücretsiz olarak sunulmaktadır. 

  • HyperPod

  • Amazon SageMaker HyperPod
    Amazon SageMaker HyperPod, altyapı modeli (FM) geliştirmesini hızlandırmak için özel olarak tasarlanmıştır. FM eğitimini daha esnek hale getirmek için küme sağlığını sürekli olarak izler, hatalı düğümleri anında onarır ve değiştirir ve ilerlemeyi kaybetmeden otomatik olarak eğitime devam etmek için sık kontrol noktalarını kaydeder. SageMaker HyperPod, kümenin işlem ve ağ altyapısını tam olarak kullanırken FM eğitim performansını artırmanıza olanak tanıyan SageMaker dağıtılmış eğitim kitaplıklarıyla önceden yapılandırılmıştır

Bulut sunucusu ayrıntıları

Amazon SageMaker P5 bulut sunucusu ürün ayrıntıları

Bulut Sunucusu Boyutu vCPU'lar Bulut Sunucusu Belleği (TiB) GPU Modeli GPU Toplam GPU belleği (GB) GPU başına bellek (GB) Ağ Bant Genişliği (Gbps) GPUDirect RDMA GPU Eşler Arası Bulut Sunucusu Depolama Alanı (TB) EBS Bant Genişliği (Gbps)
ml.p5.48xlarge 192 2 NVIDIA H100 8 640 HBM3 80 3200 EFAv2   Evet 900 GB/s NVSwitch   8x3.84 NVMe SSD 80

Amazon SageMaker P4d bulut sunucusu ürün ayrıntıları

Bulut Sunucusu Boyutu vCPU'lar Bulut Sunucusu Belleği (GiB) GPU Modeli GPU sayısı Toplam GPU belleği (GB) GPU başına bellek (GB) Ağ Bant Genişliği (Gbps) GPUDirect RDMA GPU Eşler Arası Bulut Sunucusu Geçici Diski (GB) EBS Bant Genişliği (Gbps)
ml.p4d.24xlarge 96 1152 NVIDIA A100 8 320 HBM 2 40 400 ENA ve EFA Evet 600 GB/s NVSwitch 8x1000 NVMe SSD 19
ml.p4de.24xlarge 96 1152 NVIDIA A100 8 640 HNM2e 80 400 ENA ve EFA Evet 600 GB/s NVSwitch 8x1000 NVMe SSD 19

Amazon SageMaker P3 bulut sunucusu ürün ayrıntıları

Bulut Sunucusu Boyutu vCPU'lar Bulut Sunucusu Belleği (GiB) GPU Modeli GPU sayısı Toplam GPU belleği (GB) GPU başına bellek (GB) Ağ Bant Genişliği (Gbps) GPU Eşler Arası Bulut Sunucusu Geçici Diski (GB) EBS Bant Genişliği (Gbps)
ml.p3.2xlarge 8 61 NVIDIA V100 1 16 16 10'a varan Yok Yalnızca EBS 1,5
ml.p3.8xlarge 32 244 NVIDIA V100 4 64 16 10 NVLink Yalnızca EBS 7
ml.p3.16xlarge 64 488 NVIDIA V100 8 128 16 25 NVLink Yalnızca EBS 14
ml.p3dn.24xlarge 96 768 NVIDIA V100 8 256 32 100 NVLink 2 x 900 NVMeSSD 19

Amazon SageMaker P2 bulut sunucusu ürün ayrıntıları

Bulut Sunucusu Boyutu vCPU'lar Bulut Sunucusu Belleği (GiB) GPU Modeli GPU sayısı Toplam GPU belleği (GB) GPU başına bellek (GB) Ağ Bant Genişliği (Gbps) EBS Bant Genişliği (Gbps)
ml.p2.xlarge 4 61 NVIDIA K80 1 12 12 10'a varan Yüksek
ml.p2.8xlarge 32 488 NVIDIA K80 8 96 12 10 10
ml.p2.16xlarge 64 732 NVIDIA K80 16 192 12 25 20

Amazon SageMaker G4 bulut sunucusu ürün ayrıntıları

Bulut Sunucusu Boyutu vCPU'lar Bulut Sunucusu Belleği (GiB) GPU Modeli GPU sayısı Toplam GPU belleği (GB) GPU başına bellek (GB) Ağ Bant Genişliği (Gbps) Bulut Sunucusu Geçici Diski (GB) EBS Bant Genişliği (Gbps)
ml.g4dn.xlarge 4 16 NVIDIA T4 1 16 16 25'e varan 1 x 125 NVMe SSD 3,5'e varan
ml.g4dn.2xlarge 8 32 NVIDIA T4 1 16 16 25'e varan 1 x 125 NVMe SSD 3,5'e varan
ml.g4dn.4xlarge 16 64 NVIDIA T4 1 16 16 25'e varan 1 x 125 NVMe SSD 4,75
ml.g4dn.8xlarge 32 128 NVIDIA T4 1 16 16 50 1 x 900 NVMe SSD 9,5
ml.g4dn.16xlarge 64 256 NVIDIA T4 1 16 16 50 1 x 900 NVMe SSD 9,5
ml.g4dn.12xlarge 48 192 NVIDIA T4 4 64 16 50 1 x 900 NVMe SSD 9,5

Amazon SageMaker G5 bulut sunucusu ürün ayrıntıları

Bulut Sunucusu Boyutu vCPU'lar Bulut Sunucusu Belleği (GiB) GPU Modeli GPU sayısı Toplam GPU Belleği (GB) GPU başına bellek (GB) Ağ Bant Genişliği (Gbps) EBS Bant Genişliği (Gbps) Bulut Sunucusu Geçici Diski (GB)
ml.g5n.xlarge 4 16 NVIDIA A10G 1 24 24 10'a varan 3,5'e varan 1x250
ml.g5.2xlarge 8 32 NVIDIA A10G 1 24 24 10'a varan 3,5'e varan 1x450
ml.g5.4xlarge 16 64 NVIDIA A10G 1 24 24 25'e varan 8 1x600
ml.g5.8xlarge 32 128 NVIDIA A10G 1 24 24 25 16 1x900
ml.g5.16xlarge 64 256 NVIDIA A10G 1 24 24 25 16 1x1900
ml.g5.12xlarge 48 192 NVIDIA A10G 4 96 24 40 16 1x3800
ml.g5.24xlarge 96 384 NVIDIA A10G 4 96 24 50 19 1x3800
ml.g5.48xlarge 192 768 NVIDIA A10G 8 192 24 100 19 2x3800

Amazon SageMaker Trn1 bulut sunucusu ürün ayrıntıları

Bulut Sunucusu Boyutu vCPU'lar Bellek (GiB) Trainium Hızlandırıcılar Toplam Hızlandırıcı Belleği (GB) Hızlandırıcı Başına Bellek (GB) Bulut Sunucusu Depolama Alanı (GB) Ağ bant genişliği (Gb/sn.) EBS Bant Genişliği (Gbps)
ml.trn1.2xlarge 8 32 1 32 32 1 x 500 NVMe SSD 12,5'e varan 20'ye kadar
ml.trn1.32xlarge 128 512 16 512 32 4 x 2000 NVMe SSD 800 80

Amazon SageMaker Inf1 bulut sunucusu ürün ayrıntıları

Bulut Sunucusu Boyutu vCPU'lar Bellek (GiB) Inferentia Hızlandırıcılar Toplam Hızlandırıcı Belleği (GB) Hızlandırıcı Başına Bellek (GB) Bulut Sunucusu Depolama Alanı Hızlandırıcılar Arası Bağlantı Ağ Bant Genişliği (Gbps) EBS Bant Genişliği (Gbps)
ml.inf1.xlarge 4 8 1 8 8 Yalnızca EBS Yok 25'e kadar 4,75'e varan
ml.inf1.2xlarge 8 16 1 8 8 Yalnızca EBS Yok 25'e kadar 4,75'e varan
ml.inf1.6xlarge 24 48 4 32 8 Yalnızca EBS Evet 25 4,75
ml.inf1.24xlarge 96 192 16 128 8 Yalnızca EBS evet 100 19

Amazon SageMaker Inf2 bulut sunucusu ürün ayrıntıları

Bulut Sunucusu Boyutu vCPU'lar Bellek (GiB) Inferentia Hızlandırıcılar Toplam Hızlandırıcı Belleği (GB) Hızlandırıcı Başına Bellek (GB) Bulut Sunucusu Depolama Alanı Hızlandırıcılar Arası Bağlantı Ağ Bant Genişliği (Gbps) EBS Bant Genişliği (Gbps)
ml.inf2.xlarge 4 16 1 32 32 Yalnızca EBS Yok 25'e varan 10'a varan
ml.inf2.8xlarge 32 128 1 32 32 Yalnızca EBS Yok 25'e varan 10
ml.inf2.24xlarge 96 384 6 196 32 Yalnızca EBS Evet 50 30
ml.inf2.48xlarge 192 768 12 384 32 Yalnızca EBS Evet 100 60

Amazon SageMaker Stüdyosu

Amazon SageMaker Stüdyosu, tam olarak yönetilen entegre geliştirme ortamları (IDE'ler) ve amaca yönelik araçlar sunan, eksiksiz makine öğrenimi geliştirmesi için tek bir web tabanlı arayüzdür. SageMaker Stüdyo'ya ücretsiz olarak erişebilirsiniz. Yalnızca SageMaker Stüdyosu içindeki farklı IDE'ler ve makine öğrenimi araçları için kullandığınız temel işlem ve depolama için ücret alınır.

SageMaker Stüdyosu, Python İçin AWS SDK (Boto3) veya AWS Komut Satırı Arabirimi'nden (AWS CLI) aşağıdakiler dahil olmak üzere birçok hizmeti kullanabilirsiniz:

  • JupyterLab, Code-OSS'ye dayalı Kod Düzenleyici (Visual Studio Code - Açık Kaynak) ve RStudio dahil olmak üzere tamamen yönetilen geniş bir IDE kümesiyle eksiksiz ML geliştirme gerçekleştirmek için SageMaker Stüdyosu'nda IDE'ler
  • Makine öğrenimi iş akışlarını otomatikleştirmek ve yönetmek için SageMaker İşlem Hatları
  • Tam görünürlük içeren makine öğrenimi modellerini otomatik olarak oluşturmak için SageMaker Otomatik Pilot
  • Eğitim işlerinizi ve sürümlerinizi düzenlemek ve takip etmek için SageMaker Deneyler
  • Eğitim sırasında anormalliklere yönelik hata ayıklama süreci için SageMaker Hata Ayıklayıcı
  • Yüksek kaliteli modelleri sürdürmek için SageMaker Model Monitor
  • Makine öğrenimi modellerinizi daha iyi açıklamak ve sapmaları tespit etmek için SageMaker Clarify
  • Birçok kullanım örneği için makine öğrenimi çözümlerini kolayca dağıtmaya yönelik SageMaker JumpStart. Amazon SageMaker tarafından sizin adınıza yapılan temeldeki API çağrıları için çözümde kullanılan diğer AWS hizmetleri ücretleri alınabilir.
  • Doğru uç nokta yapılandırması ile ilgili öneriler almak için SageMaker Çıkarım Danışmanı

Kullanımınıza bağlı olarak yalnızca SageMaker içindeki temel işlem ve depolama kaynakları veya diğer AWS hizmetleri için ücret ödersiniz.

Altyapı modeli değerlendirmeleri

SageMaker Clarify, altyapı modeli değerlendirmelerini hem otomatik hem de insan tabanlı değerlendirme yöntemleriyle destekler. Bunların her birinin fiyatlandırması farklıdır. Amazon SageMaker JumpStart'tan henüz hesabınıza dağıtılmamış bir altyapı modeli değerlendiriyorsanız SageMaker, JumpStart modelini çıkarım süresi boyunca geçici olarak bir SageMaker bulut sunucusuna dağıtacaktır. Bu bulut sunucusu, JumpStart tarafından söz konusu model için sağlanan bulut sunucusu önerisine uyacaktır.

Otomatik değerlendirme:
Altyapı modeli değerlendirmeleri, SageMaker işleme işi olarak çalışır. Değerlendirme işi, SageMaker Çıkarımı'nı çağıracaktır. Müşterilerden çıkarım ve değerlendirme işi için ücret alınır. Müşterilerden yalnızca değerlendirme işinin süresi için ücret alınır. Değerlendirme işinin maliyeti, değerlendirme bulut sunucusunun saat başına maliyetinin toplamı ile barındırma bulut sunucusunun saat başına maliyetinin toplamı olacaktır.

İnsan temelli değerlendirme:
Kendi iş gücünüzü getirdiğiniz insan tabanlı değerlendirme özelliğini kullandığınızda, üç öğe için ücretlendirilirsiniz: 1) çıkarım için kullanılan SageMaker bulut sunucusu, 2) insan değerlendirmesini barındıran SageMaker İşleme İşi'ni çalıştırmak için kullanılan bulut sunucusu ve 3) tamamlanan insan değerlendirme görevi başına 0,21 USD tutarında bir ücret. Bir insan görevi, bir insan çalışanın, insan değerlendirme kullanıcı arabiriminde tek bir istem ve bununla ilişkili çıkarım yanıtlarının bir değerlendirmesini sunması olarak tanımlanır. Değerlendirme işinizde 1 veya 2 modeliniz olmasına veya kendi çıkarımınızı getirmenize bakılmaksızın fiyat aynıdır ve ayrıca kaç değerlendirme boyutu ve derecelendirme yöntemi eklediğiniz de fark etmez. Görev başına 0,21 USD fiyatlandırması tüm AWS bölgeleri için aynıdır. İş gücü sizin tarafınızdan tedarik edildiğinden, iş gücü için ayrı bir ücret alınmaz.

AWS tarafından yönetilen değerlendirme:
AWS tarafından yönetilen bir uzman değerlendirmesi için fiyatlandırma, AWS uzman değerlendirme ekibiyle çalışırken özel bir etkileşimde değerlendirme ihtiyaçlarınıza göre özelleştirilir.

Amazon SageMaker Stüdyo Laboratuvarı

Amazon SageMaker Stüdyo Laboratuvarı'nı ücretsiz olarak kullanarak makine öğrenimi modelleri oluşturabilir ve eğitebilirsiniz. SageMaker Stüdyo Laboratuvarı; geliştiricilere, akademisyenlere ve veri bilimcilerine makine öğrenimini hiçbir ek ücret ödemeden öğrenmek ve denemek için kullanabilecekleri, yapılandırma gerektirmeyen bir geliştirme ortamı sunar.

Amazon SageMaker Canvas

Amazon SageMaker Canvas, iş analistlerine görsel bir üzerine tıklama arabirimi kullanmak suretiyle doğru makine öğrenimi (ML) tahminleri oluşturma yeteneği sağlayarak ML erişimini genişletir; kodlama veya ML alanında deneyim gerektirmez.

Amazon SageMaker Data Labeling

Amazon SageMaker Data Labeling iki veri etiketleme teklifi sunar: Amazon SageMaker Ground Truth Plus ve Amazon SageMaker Ground Truth. ML için yüksek oranda doğruluğa sahip eğitim veri kümeleri oluşturmayı kolaylaştıran bir tam olarak yönetilen veri etiketleme hizmeti olan Amazon SageMaker Veri Etiketleme hakkında daha fazla bilgi edinebilirsiniz.

Amazon SageMaker gölge testi

SageMaker, kendi performansını şu anda dağıtılan modele göre test ederek yeni bir makine öğrenimi modelini yayınlanmadan önce değerlendirmek için gölge testleri çalıştırmanıza yardımcı olur. SageMaker gölge testinde, gölge modeli barındırmak üzere tedarik edilen makine öğrenimi bulut sunucuları ve makine öğrenimi depolaması için kullanım ücretleri dışında herhangi bir ek ücret alınmaz. Makine öğrenimi bulut sunucuları ve makine öğrenimi depolama boyutları için fiyatlandırma, önceki fiyatlandırma tablosunda belirtilen gerçek zamanlı çıkarım seçeneğiyle aynıdır. Gölge dağıtımlarda ve gölge dağıtımlar dışında işlenen veriler için ek bir ücret alınmaz.

Amazon SageMaker Edge

Uç cihaz filolarındaki makine öğrenimi modellerini optimize etmek, çalıştırmak ve izlemek için Amazon SageMaker Edge fiyatlandırması hakkında daha fazla bilgi edinin. 

Amazon SageMaker Savings Plans

Amazon SageMaker Tasarruf Planları, maliyetlerinizi %64'e kadar düşürmenize yardımcı olur. Planlar, bulut sunucusu ailesi, boyut veya bölgeye bakılmaksızın SageMaker Stüdyo not defterleri, SageMaker not defteri bulut sunucuları, SageMaker İşleme, SageMaker Data Wrangler, SageMaker Eğitim, SageMaker Gerçek Zamanlı Çıkarım ve SageMaker Toplu Dönüşüm dahil olmak üzere uygun SageMaker makine öğrenimi bulut sunucusu kullanımına otomatik olarak uygulanır. Örneğin, istediğiniz zaman ABD Doğu (Ohio) bölgesinde çalışan bir CPU bulut sunucusu ml.c5.xlarge kullanımından ABD Batı (Oregon) bölgesinde çalışan bir ml.Inf1 bulut sunucusuna geçiş yapabilir ve Tasarruf Planları fiyatlarını otomatik olarak ödemeye devam edebilirsiniz. 

Daha fazla bilgi edinin »

Amazon SageMaker ile toplam sahip olma maliyeti (TCO)

Amazon SageMaker, kendi kendine yönetilen diğer bulut tabanlı çözümlere kıyasla üç yıllık bir dönemde en az %54 daha düşük toplam sahip olma maliyeti (TCO) sunar. Amazon SageMaker için tam TCO analizi ile daha fazla bilgi edinin.

Fiyatlandırma örnekleri

  • Bir veri bilimcisi olarak, bir ml.g4dn.xlarge bulut sunucusunda günde 6 saat boyunca not defterleri, kod ve veriler üzerinde hızlı deneme yapmak için JupyterLab'i 20 gün kullanıyorsunuz. JupyterLab IDE'ye erişmek için bir JupyterLab alanı oluşturup çalıştırıyorsunuz. İşlem, yalnızca JupyterLab alanı çalışırken kullanılan bulut sunucusu için ücretlendirilir. JupyterLab alanı için depolama ücretleri, silininceye kadar tahakkuk eder.

    İşlem

    Bulut Sunucusu Süre Gün Toplam süre Saatlik maliyet Toplam
    ml.g4dn.xlarge 6 saat 20 6 * 20 = 120 saat 0,7364 USD 88,368 USD

    Depolama

    Genel Amaçlı SSD depolama alanını 480 saat (24 saat * 20 gün) kullanacaksınız. GB-ay başına 0,1125 USD ücret alan bir bölgede:
    GB-ay başına 0,112 USD * 5 GB * 480 / (24 saat/gün * 30 gün ay) = 0,373 USD

  • Bir makine öğrenimi mühendisi olarak, bir ml.g4dn.xlarge bulut sunucusunda günde 6 saat boyunca makine öğrenimi üretim kodu düzenleme, yürütme ve hata ayıklama işlemleri için Kod Düzenleyiciyi 20 gün kullanıyorsunuz. Kod Düzenleyici IDE'ye erişmek için bir Kod Düzenleyici alanı oluşturup çalıştırıyorsunuz. İşlem, yalnızca Kod Düzenleyici alanı çalışırken kullanılan bulut sunucusu için ücretlendirilir. Kod Düzenleyici alanı için depolama ücretleri, silininceye kadar tahakkuk eder.

    İşlem

    Bulut Sunucusu Süre Gün Toplam süre Saatlik maliyet Toplam
    ml.g4dn.xlarge 6 saat 20 6 * 20 = 120 saat 0,7364 USD 88,368 USD

    Depolama

    Genel Amaçlı SSD depolama alanını 480 saat (24 saat * 20 gün) kullanacaksınız. GB-ay başına 0,1125 USD ücret alan bir bölgede:
    GB-ay başına 0,112 USD * 5 GB * 480 / (24 saat/gün * 30 gün ay) = 0,373 USD

  • Bir veri bilimcisi, Amazon SageMaker Stüdyosu Klasik'te not defterlerini kullanırken aşağıdaki eylem sırasını izler.

    1. Bir ml.c5.xlarge bulut sunucusunda TensorFlow çekirdeğinde not defteri 1'i açar ve ardından bu not defterinde 1 saat çalışır.
    2. Not defteri 2'yi bir ml.c5.xlarge bulut sunucusunda açar. Not defteri 1’i çalıştıran aynı ml.c5.xlarge bulut sunucusunda otomatik olarak açılır. 
    3. Not defteri 1 ve not defteri 2 üzerinde 1 saat aynı anda çalışır.
    4. Veri bilimcisi toplam 2 saatlik ml.c5.xlarge kullanımı için faturalandırılacaktır. Aynı anda not defteri 1 ve not defteri 2 üzerinde çakışan çalışma saati için her çekirdek uygulaması 0,5 saat boyunca ölçülecek ve 1 saat için faturalandırılacaktır.
    Çekirdek uygulaması Not defteri bulut sunucusu Saat Saatlik maliyet Toplam
    TensorFlow ml.c5.xlarge 1 0,204 USD 0,204 USD
    TensorFlow ml.c5.xlarge 0,5 0,204 USD 0,102 USD
    Data Science ml.c5.xlarge 0,5 0,204 USD 0,102 USD
            0,408 USD

  • Bir veri bilimcisi, RStudio kullanırken aşağıdaki eylem sırasını izliyor:

    1. Bir ml.c5.xlarge bulut sunucusunda RSession 1 başlatıyor ve ardından bu not defterinde 1 saat çalışıyor.
    2. Bir ml.c5.xlarge bulut sunucusunda RSession 2 başlatıyor. Bu, RSession 1'i çalıştıran aynı ml.c5.xlarge bulut sunucusunda otomatik olarak açılıyor.
    3. 1 saat boyunca aynı anda hem RSesssion 1 hem de RSession 2 üzerinde çalışıyor.
    4. Veri bilimcisi toplam iki (2) saatlik ml.c5.xlarge kullanımı için faturalandırılacaktır. Aynı anda hem RSession 1 hem de RSession 2 üzerinde çakışan çalışma saati için her RSession uygulaması 0,5 saat boyunca ölçülecek ve 1 saat için faturalandırma yapılacaktır.

    Bu esnada RServer, çalışmakta olan RSession'lar olup olmamasından bağımsız olarak 7/24 çalışır. Yönetici, "Küçük" (ml.t3.medium) seçeneğini belirlerse ücretlendirme yapılmayacaktır. Yönetici, "Orta" (ml.c5.4xlarge) veya "Büyük" (ml.c5.9xlarge) seçeneğini belirlerse RStudio, SageMaker Etki Alanı için etkinleştirildiği takdirde saatlik olarak ücretlendirme yapılacaktır.

    RSession uygulaması RSession bulut sunucusu Saat Saatlik maliyet Toplam
    Base R ml.c5.xlarge 1 0,204 USD 0,204 USD
    Base R ml.c5.xlarge 0,5 0,204 USD 0,102 USD
    Base R ml.c5.xlarge 0,5 0,204 USD 0,102 USD
            0,408 USD

  • Amazon SageMaker İşlem Merkezi, yalnızca işleriniz çalıştığı sırada kullanılan bulut sunucuları için ücretlendirme yapar. Giriş verilerini işlenmeleri için Amazon S3'e sağlamanızın ardından Amazon SageMaker, bir işleme işinin başında söz konusu verileri Amazon S3'ten yerel bir depolama alanına indirir.

    Veri analisti, iki ml.m5.4xlarge bulut sunucusundaki verileri ön işleme tabi tutmak ve doğrulamak için bir işleme işi çalıştırır. Bu işlem 10 dakika sürer. İşleme işinde kullanılması için girdi olarak S3'e 100 GB veri kümesi yükler. Yaklaşık olarak aynı boyuttaki çıkış verileri de yine S3'te depolanır.

    Saat İşleme bulut sunucuları Saatlik maliyet Toplam
    1 * 2 * 0,167 = 0,334 ml.m5.4xlarge 0.922 USD 0,308 USD
    Genel amaçlı (SSD) depolama (GB) Saatlik maliyet Toplam
    100 * 2 = 200 GB 0,14 USD 0,0032 USD

    Amazon SageMaker İşleme işi için ara toplam = 0,308 USD.
    200 GB genel amaçlı SSD depolama için ara toplam = 0,0032 USD.
    Bu örnek için toplam fiyat 0,3112 USD olur.

  • Tabloya göre verilerinizi hazırlamak için Amazon SageMaker Data Wrangler'ı 3 gün boyunca toplam 18 saattir kullanıyorsunuz. Buna ek olarak haftalık olarak güncellenmiş veri hazırlamak için bir SageMaker Data Wrangler işi oluşturuyorsunuz. Her iş 40 dakika sürüyor ve iş bir ay boyunca haftalık olarak çalışıyor.

    Data Wrangler kullanımı için toplam aylık ücretler = 16,596 USD + 2,461 USD = 19,097 USD

    Uygulama SageMaker Studio bulut sunucusu Gün Süre Toplam süre Saatlik maliyet Maliyet ara toplamı
    SageMaker Data Wrangler ml.m5.4xlarge 3 6 saat 18 Saat 0.922 USD 16,596 USD
    SageMaker Data Wrangler işi ml.m5.4xlarge - 40 Dakika 2,67 Saat 0.922 USD 2,461 USD

    Bir veri bilimcisi olarak üç gün boyunca günde 6 saatinizi verilerinizi temizlemek, keşfetmek ve görüntülemek için Amazon SageMaker Data Wrangler kullanarak harcıyorsunuz. Veri hazırlama işlem hattı uygulamak için daha sonra haftalık olarak çalışacak şekilde programlanmış SageMaker Data Wrangler işi başlatıyorsunuz.

    Aşağıdaki tablo, aylık toplam kullanımınızı ve Amazon SageMaker Data Wrangler kullanımı için ilgili maliyetleri özetler.

  • ++ Tüm kısmi okuma birimleri sıradaki tam sayıya yuvarlanır

    Veri Depolama
    Depolanan toplam veri = 31,5 GB
    Veri depolama için aylık ücretler = 31,5 GB * 0,45 USD = 14,175 USD

    Amazon SageMaker Özellik Deposu için toplam aylık ücretler = 56,875 USD + 3,185 USD + 14,175 USD = 74,235 USD

    Ayın günü Toplam yazma Toplam yazma birimleri Toplam okuma Toplam okuma birimleri
    1.güden 10. güne 100.000 yazma 
    (10.000 yazma * 10 gün)    		 2.500.000 
    (100.000 * 25KB )    		 100.000 
    (10.000 * 10 gün)    		 700.000++ 
    (100.000 * 25/4 KB )
             
    11.Gün 200.000 yazma 5.000.000 
    (200.000* 25KB)    		 200.000 okuma 1.400.000++ 
    (200.000* 25/4KB)
             
    12. günden 30. güne 1.520.000 yazma 
    (80.000 * 19 gün)    		 38.000.000 
    (1.520.000* 25KB)    		 1.520.000 yazma
    (80.000 * 19 gün)    		 10.640.000++
    (1.520.000 * 25/4KB)
             
    Toplam ücretlendirilebilir birimler   45.500.000 yazma birimi   12.740.000 okuma birimi
    Yazma ve okumalar için aylık ücretler   56,875 USD 
    (45,5 milyon yazma birimi * 1,25 USD milyon yazma başına)    		   3,185 USD 
    (12.74 milyon okuma birimi * milyon okuma başına 0,25 USD)

    Amazon SageMaker Özellik Deposu'nda her biri 25 KB okuma ve yazmalar yapan bir web uygulamanız var. Ayın ilk 10 günü için SageMaker Özellik Mağazası’na günlük 10.000 yazma ve 10.000 okuma ile uygulamanızda küçük bir trafik oluşmaktadır. Ayın 11. gününde uygulamanız sosyal medyada dikkat çeker ve uygulama trafiğiniz o gün 200.000 yazma ve 200.000 okuma değerine sıçrar. Ardından uygulamanız, daha düzenli bir trafik desenine geçerek ay sonunda, günlük 80.000 yazma ve 80.000 okuma değerine ulaşır.

    Aşağıdaki tablo, aylık toplam kullanımınızı ve Amazon SageMaker Özellik Deposu kullanımı için ilgili maliyetleri özetler.

  • Bu örnekteki eğitim ve hata ayıklama işlemleri için toplam ücret 2,38 USD olur. Amazon SageMaker Hata Ayıklayıcı yerleşik kurallarının kullandığı işlem bulut sunucuları ve genel amaçlı depolama birimleri için ek ücret uygulanmaz.

      Eğitim için genel amaçlı (SSD) depolama (GB)  Hata ayıklayıcısı yerleşik kuralları için genel amaçlı (SSD) depolama (GB) Hata ayıklayıcısı özel kuralları için genel amaçlı (SSD) depolama (GB) GB-ay başına maliyet Ara toplam
    Kullanılan kapasite 3 2 1    
    Maliyet 0 USD Yerleşik kurallı depolama birimleri için ek ücret uygulanmaz 0 USD 0,10 USD 0 USD

     

    Saat Eğitim bulut sunucusu Hata ayıklama bulut sunucusu Saatlik maliyet Ara toplam
    4 * 0,5 = 2,00 ml.m4.4xlarge yok 0,96 USD 1,92 USD
    4 * 0,5 * 2 = 4 yok Yerleşik kurallı bulut sunucuları için ek ücret uygulanmaz 0 USD 0 USD
    4 * 0,5 = 2 ml.m5.xlarge yok 0,23 USD 0,46 USD
            -------
            2,38 USD

    Bir veri bilimcisi, yeni bir fikir için bir hafta boyunca bir model üzerinde çalıştı. Modeli, bir ml.m4.4xlarge bulut sunucusunu kullanarak 30'ar dakikadan 4 kez eğitti. Eğitme işlemi için, 2 yerleşik kural ve kendi yazdığı 1 özel kuralla etkinleştirdiği Amazon SageMaker Hata Ayıklayıcısı'nı kullandı. Özel kural için ml.m5.xlarge bulut sunucusunu belirtti. Eğitim için, Amazon S3'teki 3 GB eğitim verisinden yararlandı ve Amazon S3'e 1 GB model çıktısı gönderdi. SageMaker, her bir eğitim bulut sunucusu için genel amaçlı SSD (gp2) birimleri oluşturur. SageMaker aynı zamanda, belirtilen her bir kural için genel amaçlı SSD (gp2) birimleri oluşturur. Bu örnekte toplam 4 genel amaçlı SSD (gp2) birimi oluşturulur. SageMaker Hata Ayıklayıcı, müşterinin Amazon S3 bucket'ına 1 GB hata ayıklama verisi gönderir.

  •   Maliyet Toplam birim Aylık ücret
    Alma Ölçüm kaydı başına 1,25 USD Alınan 1 milyon (=1.000 veri bilimcisi * 10 kez * 20 dönem * 5 ölçüm) ölçüm kaydı 1,25 USD (= 1,25 * 1)
    SageMaker Studio kullanımı 0 USD   0 USD
    Geri Alma Ölçüm kaydı başına 0,25 USD Geri alınan 10 milyon (= alınan 1 milyon ölçüm * alınan ölçüm başına 10 geri alma) ölçüm kaydı 2,5 USD (= 0,25 * 10)
    Depolama Aylık ölçüm kaydı başına 0,25 USD Depolanan 1 milyon ölçüm kaydı 0,25 USD (= 0,25 * 1)
    Toplam aylık ücret     4 USD

    1.000 veri bilimcisi tarafından kullanılan bir makine öğrenimi çalışma ekranınız var. Modellerini farklı parametreler ve veri kümeleri ile eğiterek deneyler yapıyorlar. Her veri bilimcisi, bir modeli ayda on kez olmak üzere 20 dönem boyunca eğitir ve beş özel ölçüm yakalar. Çalışma ekranı, özel analizler için SageMaker Deneyler’den deney verilerini almak üzere geri alma API’lerini kullanır. Veri bilimcileri, en iyi aday modeli bulmak için kayıtlı verilerini on farklı eğitim yinelemesinde karşılaştırır. Bu örnekte ücretler aşağıdaki gibi olacaktır:

      Maliyet Toplam birim Aylık ücret
    Alma Ölçüm kaydı başına 1,25 USD Alınan 100.000 (=100 veri bilimcisi * 10 kez * 20 dönem * 5 ölçüm) ölçüm kaydı 0,125 USD (= 1,25 * 100.000/1.000.000)
    SageMaker Studio kullanımı 0 USD   0 USD
    Geri Alma Ölçüm kaydı başına 0,25 USD 0 0 USD
    Depolama Aylık ölçüm kaydı başına 0,25 USD Depolanan 100.000 ölçüm kaydı 0,025 USD (= 0,25 * 100.000/1.000.000)
    Toplam aylık ücret     0,15 USD

     

    100 veri bilimcisinden oluşan bir ekip, yeni bir fikirle ilgili bir proje üzerinde çalışıyor. Modellerini farklı parametreler ve veri kümeleri ile eğiterek deneyler yapıyorlar. Ortalama olarak, her veri bilimcisi bir modeli ayda on kez olmak üzere 20 dönem boyunca eğitir ve beş özel ölçüm yakalar. Veri bilimcileri, deneylerini analiz etmek için SageMaker Studio’yu kullanır. Bu örnekte ücretler aşağıdaki gibi olacaktır:

  • Eğitim, barındırma ve izleme için ara toplam = 305,827 USD. Barındırma için aylık işlenen 3.100 MB Gelen veri ve 310 MB Giden veri için ara toplam = 0,054 USD. Bu örnek için toplam ücret aylık 305,881 USD olur.

    Not: ml.m5.xlarge bulut sunucusundaki yerleşik kurallar için, hiçbir ücret ödemeden tüm uç noktalarda toplam 30 saate kadar izleme imkanı elde edersiniz.

     

    Aylık gelen veri - barındırma Aylık giden veri - barındırma Gelen veya Giden GB başına maliyet Toplam
    100 MB * 31 = 3.100 MB   0,016 USD 0,0496 USD
      10 MB * 31 = 310 MB 0,016 USD 0,00496 USD
    Aylık saat sayısı Barındırma bulut sunucuları Model İzleme bulut sunucuları  Saatlik maliyet Toplam
    24 * 31 * 2 = 1488 ml.c5.xlarge   0,204 USD 303,522 USD
    31 * 0,08 = 2,5   ml.m5.4xlarge 0.922 USD 2,305 USD

    Örnek 5'te yer alan model, daha sonra güvenilir bir multi-AZ barındırma amacına yönelik olarak iki (2) ml.c5.xlarge bulut sunucusuna üretim için dağıtılıyor. Amazon SageMaker Model İzleme, bir (1) ml.m5.4xlarge bulut sunucusuyla etkinleştiriliyor ve izleme işlerinin günde bir kez gerçekleştirilmesi planlanıyor. Her bir izleme işinin tamamlanması 5 dakika sürüyor. Model günde 100 MB veri alıyor ve çıkarımların boyutu giriş verilerinin 1/10'u kadar oluyor.

  • SageMaker Eş Zamansız Çıkarım için alt toplam = 15,81 USD + 0,56 USD + 2 * 0,0048 = 16,38 USD. Bu örnek için toplam Eş Zamansız Çıkarım ücreti aylık 16,38 USD olur.

    Aylık gelen veri Aylık Giden Veri Gelen veya Giden GB başına maliyet Toplam
    10 KB * 1.024 * 31 = 310 MB 10 KB * 1.024 * 31 = 310 MB 0,02 USD 0,0048 USD
      10 KB * 1.024 * 31 = 310 MB 0,02 USD 0,0048 USD
    Genel amaçlı (SSD) depolama (GB) GB-ay başına maliyet Toplam
    4 0,14 USD 0,56 USD
    Aylık saat sayısı Barındırma bulut sunucuları Saatlik maliyet Toplam
    2,5 * 31 * 1 = 77,5 ml.c5.xlarge 0,20 USD 15,81 USD

    Amazon SageMaker Eş Zamansız Çıkarım, uç noktanız tarafından kullanılan bulut sunucuları için ücretlendirme yapar. İstekleri aktif olarak işlemediğinde, maliyetlerden tasarruf etmek için örnek sayısını sıfıra ölçeklendirmek için otomatik ölçeklendirmeyi yapılandırabilirsiniz. Amazon S3'teki giriş yükleri için, Amazon S3'ten giriş verilerini okuma ve aynı bölgedeki çıkış verilerini S3'e yazma maliyeti yoktur.

    Örnek 5'teki model, bir SageMaker Eşzamansız Çıkarım uç noktasını çalıştırmak için kullanılır. Uç nokta, 1 ml.c5.xlarge bulut sunucusunda çalışacak ve istekleri aktif olarak işlemediğinde bulut sunucusu sayısını sıfıra ölçeklendirecek şekilde yapılandırılmıştır. Uç noktadaki ml.c5.xlarge bulut sunucuna bağlı 4 GB genel amaçlı (SSD) depolama alanı bulunur. Bu örnekte, uç nokta günde 2 saat bulut sunucusu sayısını 1 tutar ve 30 dakikalık bir bekleme süresine sahiptir, ardından günün geri kalanı için bulut sunucusu sayısı sıfıra ölçeklenir. Bu nedenle günlük 2,5 saatlik kullanım için ücretlendirilirsiniz. 

    Uç nokta günde 1.024 istek işler. Her bir çağrı isteği/yanıt gövdesinin boyutu 10 KB'dir ve Amazon S3'teki her bir çıkarım isteği yükü 100 MB'dir. Çıkarım çıkışları, aynı bölgede Amazon S3'te depolanan giriş verilerinin boyutunun 1/10'udur. Bu örnekte, veri işleme ücretleri istek ve yanıt gövdesi için geçerlidir, ancak Amazon S3'e/S3'ten aktarılan veriler için geçerli değildir. 

  • Bu örnekte çıkarım için toplam ücret 2,88 USD olacaktır.

    Saat Barındırma bulut sunucuları Saatlik maliyet Toplam
    3 * 0,25 * 4 = 3 saat ml.m4.4xlarge 0,96 USD 2,88 USD

    SageMaker Toplu Dönüştürme'nin çalıştırılması için örnek 5'teki model kullanılıyor. Veri bilimcisi, iş çalıştırma başına 15 dakika olmak üzere 3 ml.m4.4xlarge bulut sunucusunda dört ayrı SageMaker Toplu Dönüşüm işi çalıştırıyor. Her çalıştırma için S3'te 1 GB boyutlu bir değerlendirme veri kümesi yüklüyor ve boyutu giriş verilerinin 10'da 1'i kadar olan çıkarımlar yeniden S3'te depolanıyor.

  • Aylık veri işleme ücretleri 

    Veri işleme (GB) Gelen veya Giden GB başına maliyet Aylık veri işleme ücreti
    10 GB 0,016 USD 0,16 USD

    İsteğe bağlı SageMaker Sunucusuz Çıkarım süresi ücretinin alt toplamı = 40 USD. 10 GB veri işleme ücretinin alt toplamı = 0,16 USD. Bu örnek için toplam ücret 40,16 USD olur.

    Aylık işlem ücretleri

    İstek sayısı Her isteğin süresi Toplam çıkarım süresi (saniye) Saniye başına maliyet Aylık çıkarım süresi ücreti
    10 milyon 100 milisaniye 1 milyon 0,00004 USD 40 USD

    İstek üzerine Sunucusuz Çıkarım'da, yalnızca çıkarım isteklerini işlemede kullanılan, milisaniyelik olarak faturalandırılan işlem kapasitesi ve işlenen veri miktarı için ödeme yaparsınız. İşlem ücreti, seçtiğiniz bellek yapılandırmasına bağlıdır.

    Uç noktanıza 2 GB bellek ayırdıysanız, bir ayda 10 milyon kez yürütüldüyse, her seferinde 100 milisaniye boyunca çalıştıysa ve toplamda 10 GB Gelen/Giden Veri işlediyse ödeyeceğiniz ücret aşağıdaki gibi hesaplanır:

  • Bir bordro işleme şirketi için bir sohbet robotu hizmeti çalıştırdığınızı varsayalım. Mart ayı sonunda, vergi beyannamesi son tarihinden önce müşteri sorgularında bir artış bekliyorsunuz. Ancak, ayın geri kalanında trafiğin düşük olması bekleniyor. Bu nedenle, 2 GB belleğe sahip sunucusuz bir uç nokta dağıtıyor ve uç noktanızın 10 milyon istek ve toplamda 10 GB'lık Veri Giriş/Çıkışı işlediği ayın son 5 gününde 09:00 - 17:00 (8 saat) arasında 100 Tedarik Edilen Eş Zamanlılık ekliyorsunuz. Ayın geri kalanında, sohbet robotu istek üzerine Sunucusuz Çıkarım üzerinde çalışıyor ve 3 milyon istek ile 3 GB Veri Giriş/Çıkışı işliyor. Her istek süresinin 100 milisaniye olduğunu varsayalım.

    Tedarik Edilen Eş Zamanlılık (PC) ücretleri:
    PC fiyatı 0,000010 USD/sn.
    PC kullanım süresi (sn.) = 5 gün * 100 PC * 8 saat * 3600 sn. = 14.400.000 sn.
    PC kullanım ücreti = 14.400.000 sn. * 0,000010 USD/sn. = 144 USD.

    Tedarik Edilen Eş Zamanlılık tarafından sağlanan trafik için çıkarım süresi ücretleri
    Çıkarım süresi fiyatı 0,000023 USD/sn.
    PC için toplam Çıkarım süresi (sn.) = 10 milyon * (100 milisaniye)/1000 = 1 milyon saniye.
    PC için çıkarım süresi ücretleri = 1.000.000 sn. * 0,000023/sn. = 23 USD

    İstek üzerine çıkarım süresi ücretleri
    Aylık işlem ücreti 0,00004 USD/saniyedir ve ücretsiz kullanım 150 bin saniye temin eder.
    Toplam işlem (sn.) = (3) milyon * (100 milisaniye)/1000 = 0,3 milyon saniye.
    Toplam işlem - Ücretsiz kullanıma tabi işlem = Saniye cinsinden aylık faturalanabilir işlem
    0,3 milyon sn. - 150 bin sn. = 150 bin sn.
    Aylık işlem ücretleri = 150 bin * 0,00004 USD = 6 USD

    Veri İşleme
    Maliyet / İçeri/Dışarı İşlenen Veri GB'ı = 0,016 USD
    İşlenen toplam GB = 10 + 3 = 13
    Toplam Maliyet = 0,016 USD * 13 = 0,208 USD

    Mart için toplam ücret
    Toplam ücret = Tedarik Edilen Eş Zamanlılık ücretleri + Tedarik Edilen Eş zamanlılık için çıkarım süresi + İstek üzerine işlem için çıkarım süresi + Veri İşleme ücretleri
    = 144 USD + 23 USD + 6 USD + 0,208 USD = 173,2 USD

  • Müşteri, müşteri incelemesi duygusunu olumlu veya olumsuz olarak sınıflandırmak için önceden eğitilmiş bir BERT Base Uncased modelini dağıtmak üzere JumpStart kullanıyor.

    Müşteri, güvenilir bir multi-AZ barındırma için modeli iki (2) ml.c5.xlarge bulut sunucusuna dağıtıyor. Model günde 100 MB veri alıyor ve çıkarımların boyutu giriş verilerinin 1/10'u kadar oluyor.

    Aylık saat sayısı Barındırma bulut sunucuları Saatlik maliyet Toplam
    24 * 31 * 2 = 1488 ml.c5.xlarge 0,204 USD 303,55 USD
     
    Aylık Gelen Veri - Barındırma Aylık Giden Veri - Barındırma Gelen veya Giden GB Başına Maliyet

    		 Toplam
    100 MB * 31 = 3.100 MB   0,02 USD 0,06 USD
      10 MB * 31 = 310 MB 0,02 USD 0,01 USD
     

    Eğitim, barındırma ve izleme için ara toplam = 305,827 USD. Barındırma için aylık işlenen 3.100 MB Gelen veri ve 310 MB Giden veri için ara toplam = 0,06 USD. Bu örnekte toplam ücret aylık 305,887 USD olur.

  • Uçtan uca model dağıtımını desteklemek için 3 aylık sürekli kullanım için 64 p5 kümesi istediğinizi varsayalım.

    Saat Eğitim bulut sunucusu Saatlik maliyet
    3 ay * 30 gün * 24 saat = 2.160 saat ml.p5.48xlarge 113,07 USD
     

    Bu örnekteki küme için toplam ücret 244.321,20 USD olur.

  • SageMaker Clarify ile altyapı modeli değerlendirmeleri, yalnızca otomatik değerlendirme işleriniz çalışırken kullanılan bulut sunucuları için ücret alır. Bir otomatik değerlendirme görevi ve veri kümesi seçtiğinizde SageMaker, istem veri kümesini Amazon S3'ten bir SageMaker değerlendirme bulut sunucusuna yükler.

    Aşağıdaki örnekte, bir ML mühendisi, özetleme görev doğruluğu için ABD Doğu (K. Virginia) Bölgesi'nde Llama2 7B modelinin bir değerlendirmesini yürütür. Llama 2 7B için çıkarım için önerilen bulut sunucusu türü ml.g5.2xlarge'tır. Bir değerlendirme için önerilen minimum bulut sunucusu ml.m5.2xlarge'tır. Bu örnekte, iş 45 dakika (veri kümesinin boyutuna bağlı olarak) boyunca çalışır. Bu örnekte, değerlendirme işi ve ayrıntılı sonuçlar için maliyet 1,48 USD olacaktır.

    İşleme İşi Saatleri (örnek)

    Bölge

    Bulut Sunucusu Türü

    Bulut Sunucusu

    Saatlik maliyet

    Maliyet

    0,45

    us-east-1

    LLM barındırma

    ml.g5.2xlarge

    1,52 USD

    1,14 USD

    0,45

    us-east-1

    değerlendirme

    ml.m5.2xlarge

    0,46 USD

    0,35 USD

    Toplam

    		        

    1,48 USD

    Bir sonraki örnekte, Virginia'daki aynı mühendis özetleme görevi doğruluğu için başka bir değerlendirme işi çalıştırır ancak Llama 2 7B'nin kendi hesaplarına dağıtılan ve çalışır durumda olan özelleştirilmiş bir Llama 2 7B sürümünü kullanır. Bu durumda, model zaten hesaplarına dağıtıldığından tek artımlı maliyet, değerlendirme bulut sunucusu için olacaktır.

    İşleme İşi Saatleri

    Bölge

    Bulut Sunucusu Türü

    Bulut Sunucusu

    Saatlik maliyet

    Maliyet

    0,45

    us-east-1

    değerlendirme

    ml.m5.2xlarge

    0,46 USD

    0,35 USD

    Toplam

    		        

    0,35 USD

  • Aşağıdaki örnekte, ABD Doğu (K. Virginia) Bölgesi'ndeki bir makine öğrenimi mühendisi, özetleme görev doğruluğu için Llama-2-7B'nin insan tabanlı bir değerlendirmesini yürütür ve değerlendirme için kendi özel iş gücünü kullanır. Llama-2-7B için önerilen bulut sunucusu türü ml.g5.2xlarge'tır. İnsan tabanlı değerlendirme İşleme İşi için önerilen minimum bulut sunucusu ml.t3.medium'dur. Llama-2-7B'de çıkarım 45 dakika (veri kümesinin boyutuna bağlıdır) boyunca çalışır. Veri kümesi, 50 istem içerir ve geliştirici, her bir istem-yanıt kümesini derecelendirmek için 2 işçi gerektirir (değerlendirme işi oluşturmada "istem başına işçi" parametresi olarak yapılandırılabilir). Bu değerlendirme işinde 100 görev olacaktır (her çalışan başına her istem-yanıt çifti için 1 görev: 2 işçi x 50 hızlı yanıt kümesi = 100 insan görevi). İnsan iş gücünün, değerlendirme işindeki 100 insan değerlendirme görevini tamamlaması bir gün (24 saat) sürer (bu süre, çalışanların sayısına ve beceri düzeyine ve ayrıca istemlerin ve çıkarım yanıtlarının uzunluğuna/karmaşıklığına bağlıdır).

    İşlem Saatleri

    İnsan görevleri

    Bölge

    Bulut Sunucusu Türü

    Bulut Sunucusu

    Saatlik maliyet

    İnsan görevi başına maliyet

    Toplam Maliyet

    0,45

    		  

    ABD Doğu (K. Virginia)

    LLM barındırma

    ml.g5.2xlarge

    1,52 USD

    		  

    1,14 USD

    24

    		  

    ABD Doğu (K. Virginia)

    İşleme İşi

    ml.t3.medium

    0,05 USD

    		  

    1,20 USD
     

    100

    Herhangi bir

    		      

    0,21 USD

    21,00 USD

    Toplam

    		            

    23,34 USD

    Bir sonraki örnekte, ABD Doğu (K. Virginia) bölgesindeki aynı mühendis aynı değerlendirme işini çalıştırır ancak halihazırda hesaplarına dağıtılmış ve çalışır durumda olan Llama-2-7B'yi kullanır. Bu durumda, tek artımlı maliyet, değerlendirme işleme işi ve insan görevleri için olacaktır.

    İşlem Saatleri

    İnsan görevleri

    Bölge

    Bulut Sunucusu Türü

    Bulut Sunucusu

    Saatlik maliyet

    İnsan görevi başına maliyet

    Toplam Maliyet

    24

    		  

    ABD Doğu (K. Virginia)

    İşleme İşi

    ml.t3.medium

    0,05 USD

    		  

    1,20 USD
     

    100

    Herhangi bir

    		      

    0,21 USD

    21,00 USD

    Toplam

    		            

    22,20 USD