Amazon EC2 P3 Bulut Sunucuları

Güçlü GPU’larla makine öğrenimi ve yüksek performanslı bilişim uygulamalarını hızlandırın

Amazon EC2 P3 Bulut Sunucuları, makine öğrenimi ve HPC uygulamaları için bulutta 8’e kadar NVIDIA® V100 Tensor Core GPU ve 100 Gbps’ye kadar ağ aktarım hızı ile yüksek performanslı işlem sunar. Bu bulut sunucuları, karma hassaslıkta bulut sunucusu başına bir petaflopa kadar performans sunarak makine öğrenimi ve yüksek performanslı bilişim uygulamalarını önemli oranda hızlandırır. Amazon EC2 P3 bulut sunucularının günler süren makine öğrenimi eğitimlerinin süresini dakikalarla ölçülebilecek kadar kısaltmakla kalmayıp yüksek performanslı bilişim için tamamlanan simülasyon sayısını 3-4 kat artırdığı kanıtlanmıştır.
P3.16xlarge bulut sunucularının 4 katına kadar ağ bant genişliğine sahip Amazon EC2 P3dn.24xlarge bulut sunucuları, P3 ailesinin dağıtılmış makine öğrenimi ve HPC uygulamalarına yönelik olarak optimize edilmiş son üyesidir. Bu bulut sunucuları, 100 Gbps’ye kadar ağ aktarım hızı, 96’ya kadar özel Intel® Xeon® Scalable (Skylake) vCPU, her biri 32 GB belleğe sahip 8’e kadar NVIDIA® V100 Tensor Core GPU ve 1,8 TB’a kadar yerel NVMe tabanlı SSD depolama sağlar.

Amazon EC2 P3dn.24xlarge ile tanışın – şimdiye kadarki en güçlü P3 bulut sunucusu

Dağıtılmış makine öğrenimi eğitimi ve yüksek performanslı bilişim için optimize edilmiştir

ReInvent_HA_P3_EDITORIAL

Avantajlar

MAKİNE ÖĞRENİMİ İÇİN EĞİTİM ZAMANINI GÜNLERDEN DAKİKALARA İNDİRİN

ML uygulamalarını hızlandırması gereken veri bilimcilere, araştırmacılara ve yazılım geliştiricilere yönelik Amazon EC2 P3 bulut sunucuları, ML eğitimi için buluttaki en hızlı seçenektir. Amazon EC2 P3 bulut sunucuları sekize kadar en son nesil NVIDIA V100 Tensor Core GPU ile donatılmıştır ve karma hassaslıkta bir petaflopa kadar performans sunarak ML iş yüklerini önemli oranda hızlandırır. Daha hızlı model eğitimi sayesinde veri bilimciler ve makine öğrenimi mühendisleri daha hızlı yineleme yapabilir, daha fazla model eğitebilir ve doğruluk oranını artırabilir.

ML EĞİTİMİ İÇİN SEKTÖRDEKİ EN UYGUN MALİYETLİ ÇÖZÜM

Buluttaki en güçlü GPU bulut sunucularından birinin esnek fiyatlandırma planlarıyla birleşimi sonucunda ortaya makline öğrenimi eğitimi için son derece uygun maliyetli bir çözüm çıktı. Genel olarak Amazon EC2 bulut sunucularında olduğu gibi, P3 bulut sunucuları da İsteğe Bağlı Bulut Sunucuları, Rezerve Edilmiş Bulut Sunucuları veya Spot Bulut Sunucuları olarak sunulur. Spot Bulut Sunucuları, kullanılmayan EC2 bulut sunucusu kapasitesinden yararlanır ve Amazon EC2 maliyetlerinizi önemli ölçüde düşürerek İsteğe Bağlı fiyatlarına göre %70’e kadar indirim sağlar.

ESNEK, GÜÇLÜ YÜKSEK PERFORMANSLI BİLİŞİM

Şirket içi sistemlerin aksine, yüksek performanslı bilişim iş yüklerinizi Amazon EC2 P3 bulut sunucularında çalıştırdığınızda altyapınızı ölçeklendirme konusunda neredeyse sınırsız kapasitenin yanı sıra kaynaklarınızı kolayca ve iş yükü gereksinimlerinize göre dilediğiniz sıklıkta değiştirme olanağına sahip olursunuz. Kaynaklarınızı uygulamanızın gereksinimlerini karşılayacak şekilde yapılandırabilir ve dakikalar içinde bir HPC kümesi başlatabilirsiniz. Üstelik yalnızca kullandığınız kadar ödersiniz.

AWS MACHINE LEARNING HİZMETLERİYLE ENTEGRASYON

Amazon EC2 P3 bulut sunucuları Amazon SageMaker ile sorunsuz bir şekilde birlikte çalışarak güçlü, sezgisel ve eksiksiz bir makine öğrenimi platformu sunar. Amazon SageMaker, hızla ve kolayca makine öğrenimi modelleri oluşturup bunları eğitmenize ve dağıtmanıza olanak sağlayan, tam olarak yönetilen bir makine öğrenimi platformudur. Ayrıca, Amazon EC2 P3 bulut sunucuları popüler derin öğrenim framework’lerinin önceden yüklendiği AWS Deep Learning Amazon Machine Image’lar (AMI) ile entegre edilebilir. Bu sayede makine öğrenimi için eğitim ve çıkarım sürecine başlanması daha hızlı ve daha kolay olur.

TÜM ÖNEMLİ MAKİNE ÖĞRENİMİ FRAMEWORK’LERİ İÇİN DESTEK

Amazon EC2 P3 bulut sunucuları tarafından TensorFlow, PyTorch, Apache MXNet, Caffe, Caffe2, Microsoft Cognitive Toolkit (CNTK), Chainer, Theano, Keras, Gluon ve Torch dahil olmak üzere tüm önemli makine öğrenimi framework’lerini desteklenir. Uygulamanız için en uygun framework’ü seçme esnekliğiniz vardır.

Ölçeklenebilir Çok Düğümlü Maki̇ne Öğrenimi̇ Eğitimi

100 Gbps’ye kadar ağ aktarım hızına sahip birden çok Amazon EC2 P3 bulut sunucusu kullanarak makine öğrenimi modellerini hızla eğitebilirsiniz. Aktarım hızının daha yüksek olması, yazılım geliştiricilerin veri aktarımı performans sorunlarını ortadan kaldırmasına ve model eğitimi işlerinin ölçeğini birden çok P3 bulut sunucusunu kapsayacak şekilde genişletmesine olanak tanır. Müşterilerimiz 16 adet P3 bulut sunucusu kullanarak yaygın bir görüntü sınıflandırma modeli olan ResNet-50’yi yalnızca 18 dakikada endüstri standardında bir doğruluğa ulaşacak şekilde eğitmeyi başardı. Daha önce şirket içi GPU kümelerinin büyük bir CapEx yatırımıyla genişletilmesini gerektiren bu performans düzeyi, ML müşterilerinin çoğu için ulaşılamaz durumdaydı. P3 bulut sunucularının İsteğe Bağlı kullanım modeli üzerinden erişime sunulmasıyla birlikte, bu performans düzeyine tüm yazılım geliştiriciler ve makine öğrenimi mühendisleri erişebilir.

Müşteri Öyküleri

200x100_AirBNB_Logo

Airbnb, makine öğrenimini kullanarak arama önerilerini optimize etmesinin yanı sıra ev sahipleri için dinamik fiyatlandırma yönergelerini geliştirerek rezervasyon oranının artmasını sağlıyor. Airbnb, Amazon EC2 P3 bulut sunucuları sayesinde eğitim iş yüklerini daha hızlı çalıştırabiliyor, daha fazla yineleme gerçekleştirebiliyor, daha iyi makine öğrenimi modelleri oluşturabiliyor ve maliyeti düşürebiliyor.

salesforce_logo_200x100

Einstein Vision ürününü desteklemek için makine öğrenimi kullanan Salesforce, yazılım geliştiricilerin görsel arama, marka algılama ve ürün tanımlama gibi kullanım örneklerine yönelik olarak görüntü tanıma teknolojisinin gücünden yararlanmasını mümkün kılıyor. Amazon EC2 P3 bulut sunucuları, yazılım geliştiricilerin derin öğrenim modellerini çok daha hızlı eğiterek makine öğrenimi hedeflerine hızla ulaşmasına olanak tanıyor.

western-digital_200x100

Western Digital, disk sürücülerinin ve depolama çözümlerinin performansını ve kalitesini geliştirmek amacıyla yüksek performanslı bilişim (HPC) kullanarak malzeme bilimi, ısı akışları, manyetik bilimi ve veri aktarımı için on binlerce simülasyon çalıştırıyor. İlk testlere göre, Amazon EC2 P3 bulut sunucuları sayesinde mühendislik ekipleri daha önce dağıtılan çözümlere kıyasla üç kat daha hızlı simülasyon çalıştırabiliyor.  

schrodinger-200x100

Schrodinger, keşif ve optimizasyon ölçeğini genişletmenin yanı sıra müşterilerine hayat kurtaran ilaçları pazara daha hızlı ulaştırma olanağı sağlamak amacıyla tahmine dayalı modeller geliştirmek için yüksek performanslı bilişim (HPC) kullanıyor. Amazon EC2 P3 bulut sunucuları, P2 bulut sunucularına kıyasla Schrodinger’in günde dört kata kadar daha fazla simülasyon gerçekleştirmesine olanak sağlıyor.  

Amazon EC2 P3 Bulut Sunucuları ve Amazon SageMaker

Makine Öğrenimi Modellerini Eğitmenin ve Çalıştırmanın En Hızlı Yolu

Amazon SageMaker, makine öğrenimi modelleri oluşturup bunları eğitmeye ve dağıtmaya yönelik, tam olarak yönetilen bir hizmettir. Amazon EC2 P3 bulut sunucuları ile birlikte kullanıldığında, müşteriler bir modeli ölçeğinden bağımsız olarak, kümeler ve veri işlem hatları ayarlama konusunda endişelenmeleri gerekmeksizin hızla eğitmek için ölçeği onlarca, yüzlerce veya binlerce GPU içerecek şekilde kolayca genişletebiliyor. Ayrıca, Amazon SageMaker’daki eğitim ve barındırma iş akışları için Amazon Virtual Private Cloud (Amazon VPC) kaynaklarına kolayca erişebilirsiniz. Bu özellik sayesinde, yalnızca VPC’niz aracılığıyla erişilebilen Amazon Simple Storage Service (Amazon S3) klasörlerinizi eğitim verilerini depolamanın yanı sıra eğitim sürecinden elde edilen model yapıtlarını depolayıp barındırmak için kullanabilirsiniz. Modeller S3’e ek olarak VPC’nin içerdiği diğer tüm AWS kaynaklarına da erişebilir. Daha fazla bilgi edinin.

Oluşturma

Amazon SageMaker, makine öğrenimi modelleri oluşturmayı ve bunları eğitime hazırlamayı kolaylaştırır. Eğitim verilerinize hızla bağlanmanın yanı sıra uygulamanız için en iyi algoritma ve framework’ü seçme konusunda gereksinim duyduğunuz her şeyi sağlar. Amazon SageMaker, Amazon S3'te depolanan eğitim verilerinizi keşfetmeyi ve görselleştirmeyi kolaylaştırmaya yönelik barındırılan Jupyter Notebook'ları içerir.  Ayrıca, not defterlerini kullanarak model eğitimi işleri oluşturmaya yönelik kod yazabilir, modelleri Amazon SageMaker barındırma ortamına dağıtabilir ve modellerinizi test edebilir ya da doğrulayabilirsiniz.

Eğitme

Konsoldan tek bir tıklamayla veya bir API çağrısıyla modelinizi eğitmeye başlayabilirsiniz. Amazon SageMaker, en güncel TensorFlow ve Apache MXNet sürümleriyle önceden yapılandırılmıştır ve NVIDIA GPU'larla en uygun performansı sunmak için CUDA9 kitaplığını destekler. Bunun da ötesinde, en doğru tahminlere hızla ulaşılması amacıyla hiper parametre optimizasyonu akıllı bir şekilde model parametrelerinin farklı kombinasyonlarını ayarlayarak modelinizde otomatik olarak ince ayarlar yapabilir. Büyük ölçekli gereksinimleriniz varsa oluşturma sürecinin daha hızlı olması için ölçeğinizi onlarca bulut sunucusu içerecek şekilde büyütebilirsiniz.

Dağıtma

Eğitim tamamlandıktan sonra modelinizi tek tıklamayla birden çok Erişilebilirlik Alanındaki otomatik olarak ölçekledirilebilen Amazon EC2 bulut sunucularına dağıtabilirsiniz. Üretim aşamasında, Amazon SageMaker işlem altyapısını sizin adınıza yöneterek durum denetimleri gerçekleştirir, güvenlik düzeltme ekleri uygular, diğer rutin bakım işlemlerini yapar ve bunların tümüne yerleşik Amazon CloudWatch izleme ve günlüğe kaydetme özellikleri eşlik eder.

 

Amazon EC2 P3 Bulut Sunucuları ve AWS Deep Learning AMI’leri

Hızla derin öğrenim uygulamaları oluşturmaya başlamak için önceden yapılandırılmış geliştirme ortamları

Daha özel gereksinimlerine sahip yazılım geliştiriciler için Amazon SageMaker’a bir alternatif sunan AWS Deep Learning AMI'leri, makine öğrenimi uygulayıcılarına ve araştırmacılarına bulutta ve tüm ölçeklerde derin öğrenimi hızlandırmak için kullanabilecekleri altyapıyı ve araçları sunar. TensorFlow, PyTorch, Apache MXNet, Microsoft Cognitive Toolkit, Caffe, Caffe2, Theano, Torch, Chainer, Gluon ve Keras gibi popüler derin öğrenim framework’lerinin önceden yüklendiği Amazon EC2 P3 bulut sunucularını hızla başlatarak gelişmiş ve özel AI modelleri eğitebilir, yeni algoritmalarla denemeler yapabilir veya yeni beceriler ve teknikler edinebilirsiniz. Daha fazla bilgi edinin

Amazon EC2 P3 Bulut Sunucuları ve Yüksek Performanslı Bilişim

AWS’de HPC’nin gücünden yararlanarak büyük bilişim sorunlarını çözün ve yeni öngörüler edinin

Amazon EC2 P3 bulut sunucuları mühendislik simülasyonları, hesaplamalı finans, sismik analiz, moleküler modelleme, genomik, görsel işleme ve benzeri, yoğun GPU işlemi gerektiren iş yüklerini çalıştırmak için ideal bir platformdur. Yüksek performanslı bilişim (HPC), bilim insanlarının ve mühendislerin bu karmaşık, yoğun işlem kaynağı gerektiren sorunları çözmesine olanak tanır. HPC uygulamaları genellikle yüksek ağ performansı, hızlı depolama, büyük miktarda bellek, yüksek işlem özellikleri ya da bunların hepsini birden gerektirir. AWS, bulutta HPC çalıştırarak ve çoğu şirket içi ortamda mümkün olmayacak bir düzeyde daha fazla paralel görev çalıştıracak şekilde ölçeklendirme uygulayarak araştırma hızını artırmanıza ve sonuç elde etme süresini kısaltmanıza imkan tanır. AWS isteğe bağlı olarak, belirli uygulamalar için optimize edilmiş ve büyük sermaye yatırımları gerektirmeyen çözümler tedarik ederek maliyetlerin azaltılmasına yardımcı olur. Daha fazla bilgi edinin

Amazon EC2 P3dn.24xlarge Bulut Sunucuları

Dağıtılmış Makine Öğrenimi ve Yüksek Performanslı Bilişim İçin Optimize Edilmiş, Yeni, Daha Hızlı, Daha Güçlü ve Daha Büyük Bulut Sunucusu Boyutu

Amazon EC2 P3dn.24xlarge bulut sunucuları, kullanılabilen en hızlı, en güçlü ve en büyük P3 bulut sunucusu boyutudur ve 100 Gbps’ye kadar ağ aktarım hızı, her birinde 32 GB bellek bulunan 8’e kadar NVIDIA® V100 Tensor Core GPU, 96’ya kadar özel Intel® Xeon® Scalable (Skylake) vCPU ve 1,8 TB’a kadar yerel NVMe tabanlı SSD depolama alanı sağlar. Daha hızlı ağ, yeni işlemciler, iki kat GPU belleği ve ek vCPU’lar sayesinde yazılım geliştiriciler, işlerinin ölçeğini birkaç bulut sunucusuna genişleterek (örneğin 16, 32 veya 64 bulut sunucusu) makine öğrenimi modellerini öğretme süresini önemli ölçüde kısaltabilir ve daha fazla HPC simülasyonu çalıştırabilir. Makine öğrenimi modelleri, eğitim için yüksek miktarda verinin yanı sıra bulut sunucuları arasında veri geçişi için aktarım hızının artırılmasını gerektirir. P3dn.24xlarge bulut sunucularının ek ağ aktarım hızı, Amazon S3’e veya Amazon EFS gibi paylaşılan dosya sistemleri çözümlerine bağlanarak yüksek miktarda eğitim verisine erişmek için de kullanılabilir.

PERFORMANS SORUNLARINI ORTADAN KALDIRIN VE MAKİNE ÖĞRENİMİ EĞİTİM SÜRESİNİ KISALTIN

100 Gbps ağ aktarım hızı sayesinde yazılım geliştiriciler, dağıtılmış eğitim için çok sayıda P3dn.24xlarge bulut sunucusunu (ör. 16, 32 veya 64 bulut sunucusu) verimli bir şekilde kullanabilmesinin yanı sıra modellerini eğitme süresini önemli oranda kısaltabilir. AVX-512 yönergeleri içeren AWS’ye özel Intel Skylake işlemcilerin 2,5 GHz hızında çalışan 96 vCPU’su, verilerin ön işleme alınmasını optimize etmenize yardımcı olur. Bunun dışında, P3dn.24xlarge bulut sunucuları, ana bilgisayar donanımının neredeyse tüm işlem ve bellek kaynaklarını bulut sunucularınıza ileten tahsis edilmiş donanımın ve basit bir hiper yöneticinin birleşimi olan AWS Nitro System teknolojisini kullanır.

 

GPU kullanımını optimize ederek TCO’yu düşürün

Toplamda 100 Gbps’ye kadar ağ bant genişliğine sahip Elastic Network Adapter ürününün en son sürümünden yararlanan geliştirilmiş ağ iletişimi, yalnızca çeşitli P3dn.24xlarge bulut sunucuları arasında veri paylaşımı için değil, Amazon S3 veya paylaşılan dosya sistemleri çözümleri (Amazon EFS gibi) aracılığıyla yüksek aktarım hızlı veri erişimi için de kullanılabilir. Yüksek aktarım hızlı veri erişimi, GPU kullanımının optimize edilmesi ve işlem bulut sunucularından maksimum performansın sunulması için çok önemlidir.

Daha büyük ve daha karmaşık modelleri destekleyin

P3dn.24xlarge bulut sunucuları, daha gelişmiş ve daha büyük makine öğrenimi modellerinin eğitilmesinin yanı sıra görüntü sınıflandırma ve nesne algılama sistemlerine yönelik 4k görüntüler gibi daha büyük veri gruplarının işlenmesi için gerekli esnekliği sağlayan, 32 GB belleğe sahip NVIDIA V100 Tensor Core GPU’lar sunar.

 

Amazon EC2 P3 Bulut Sunucusu Ürün Ayrıntıları

Bulut Sunucusu Boyutu GPU’lar – Tesla V100 Eşler Arası GPU Ağı GPU Belleği (GB) vCPU'lar Bellek (GB) Ağ Bant Genişliği EBS Bant Genişliği İsteğe Bağlı Fiyatı/sa* 1 Yıl Rezerve Edilmiş Bulut Sunucusu Saatlik Olarak Geçerli* 3 Yıl Rezerve Edilmiş Bulut Sunucusu Saatlik Olarak Geçerli*
p3.2xlarge 1 Yok 16 8 61 10 Gbps'ye kadar 1,5 Gbps 3,06 USD 1,99 USD 1,05 USD
p3.8xlarge 4
NVLink 64 32 244 10 Gbps 7 Gbps 12,24 USD 7,96 USD 4,19 USD
p3.16xlarge 8 NVLink 128 64 488 25 Gbps 14 Gbps 24,48 USD 15,91 USD 8,39 USD
p3dn.24xlarge 8 NVLink 256 96 768 100 Gbps 14 Gbps 31,218 USD 18,30 USD 9,64 USD

* – Gösterilen fiyatlar ABD Doğu (Kuzey Virginia) AWS Bölgesi’nde Linux/Unix için geçerlidir ve en yakın sente yuvarlanmıştır. Fiyatlandırma hakkında ayrıntılı bilgi için Amazon EC2 fiyatlandırma sayfasına bakın.

Müşteriler P3 bulut sunucularını İsteğe Bağlı Bulut Sunucuları, Rezerve Edilmiş Bulut Sunucuları, Spot Bulut Sunucuları ve Tahsis Edilmiş Konaklar olarak satın alabilir.

SANİYELİK FATURALANDIRMA

Bulut bilişimin çok sayıdaki avantajından biri de kaynakları gerektiğinde tedarik edip gerekmediğinde kaldırma konusunda sahip olduğunuz esnekliktir. Kullanımı saniyelik birimlerle faturalandırarak müşterilerin esneklik düzeyini artırmasına, para tasarrufu sağlamasına ve kaynak ayırma sürecini makine öğrenimi hedeflerini gerçekleştirecek şekilde optimize etmesine olanak sağlıyoruz.

REZERVE EDİLMİŞ BULUT SUNUCUSU FİYATLANDIRMASI

Rezerve Edilmiş Bulut Sunucuları, İsteğe Bağlı Bulut Sunucusu fiyatlandırmasına kıyasla önemli oranda indirim (%75'e kadar) sağlar. Ayrıca, Rezerve Edilmiş Bulut Sunucuları belirli bir Erişilebilirlik Alanına atandığında kapasite rezervasyonu sağlayarak gerektiğinde bulut sunucusu başlatabilme konusunda kendinize daha fazla güvenmenizi sağlar.

SPOT FİYATLANDIRMASI

Spot Bulut Sunucuları ile bulut sunucularınız çalıştığı sırada geçerli olan Spot fiyatını ödersiniz. Spot Bulut Sunucusu fiyatları Amazon EC2 tarafından belirlenir ve Spot Bulut Sunucusu kapasitesine yönelik uzun vadeli arz ve talep eğilimlerine göre kademeli olarak güncellenir. Spot Bulut Sunucuları, İsteğe Bağlı fiyatlandırmasına kıyasla %90'a varan indirimli oranlarla sunulur.

En Geniş Küresel Erişilebilirlik

1856-Updated Map Image-P3 Instances-transparentBG_1024x543

Amazon EC2 P3.2xlarge, P3.8xlarge ve P3.16xlarge bulut sunucuları 14 AWS Bölgesinde sunulduğundan, müşteriler makine öğrenimi modellerini verileri nerede depolanıyorsa orada eğitme ve dağıtma esnekliğine sahiptir. P3 bulut sunucularına erişilebilen bölgeler ABD Doğu (K. Virginia), ABD Doğu (Ohio), ABD Batı (Oregon), Kanada (Orta), Avrupa (İrlanda), Avrupa (Frankfurt), Avrupa (Londra), Asya Pasifik (Tokyo), Asya Pasifik (Seul), Asya Pasifik (Sidney), Asya Pasifik (Singapur), Çin (Pekin), Çin (Ningxia) ve AWS GovCloud (ABD) AWS Bölgeleridir.

P3dn.24xlarge bulut sunucularına ABD Doğu (K. Virginia) ve ABD Batı (Oregon) AWS bölgelerinde erişilebilir.

Makine Öğrenimi için Amazon EC2 P3 bulut sunucularını kullanmaya başlayın

Dakikalar içinde kullanmaya başlamak için Amazon SageMaker hakkında bilgi edinin veya Caffe2 ve MXNet gibi popüler derin öğrenim framework’lerinin önceden yüklendiği AWS Deep Learning AMI’yi kullanın. Alternatif olarak, GPU sürücüsünün ve CUDA araç setinin önceden yüklendiği NVIDIA AMI’yi de kullanabilirsiniz.

Blog gönderileri ve makaleler

amrraga
 
Amr Ragab, Chetan Kapoor, Rahul Huilgol, Jarvis Lee, Tyler Mullenbach ve Yong Wu
20 Temmuz 2018

Amazon SageMaker Hakkında

Daha fazla bilgi edinmek için buraya tıklayın

AWS üzerinde Deep Learning Hakkında

Daha fazla bilgi edinmek için buraya tıklayın

Yüksek Performanslı Bilişim (HPC) Hakkında

Daha fazla bilgi edinmek için buraya tıklayın
Başlamaya hazır mısınız?
Kaydolun
Başka sorunuz mu var?
Bize ulaşın