Amazon EC2 P3 Bulut Sunucuları
Amazon EC2 P3 bulut sunucuları, bulutta 8 adede kadar NVIDIA® V100 Tensor Core GPU ve makine öğrenimi ile HPC uygulamaları için 100 Gb/sn'ye kadar ağ oluşturma performansı ile yüksek performanslı bilişim sunar. Bu bulut sunucuları makine öğrenimi ve yüksek performanslı bilişim uygulamalarını önemli ölçüde hızlandırmak için bulut sunucusu başına bir petaflopa kadar karma hassas performans sunar. Amazon EC2 P3 bulut sunucularının makine öğrenimi eğitim sürelerini günlerden dakikalara düşürdüğü, ayrıca yüksek performanslı bilişim için tamamlanan simülasyonların sayısını 3-4 kat artırdığı kanıtlanmıştır.
P3.16xlarge bulut sunucularının 4 katına kadar ağ bant genişliğine sahip Amazon EC2 P3dn.24xlarge bulut sunucuları, P3 ailesine en son olarak eklenmiştir ve hem dağıtılmış makine öğrenimi hem de HPC uygulamaları için optimize edilmiştir. Bu bulut sunucularında 100 Gbps'ye kadar ağ iletişimi aktarım hızı, 96 adet özel Intel® Xeon® Ölçeklenebilir (Skylake) vCPU, her biri 32 GiB belleğe sahip 8 adet NVIDIA® V100 Tensor Core GPU ve 1,8 TB'lık yerel NVMe tabanlı SSD depolama alanı bulunmaktadır. P3dn.24xlarge bulut sunucuları, NVIDIA Collective Communications Library'yi (NCCL) kullanarak dağıtılmış makine öğrenimi uygulamalarını hızlandıran Elastic Fabric Adapter'ı (EFA) da destekler. EFA, binlerce GPU’ya ölçeklenebilir ve böylece derin öğrenme eğitim modellerinin aktarım hızı ile ölçeklenebilirliğini önemli ölçüde iyileştirerek sonuçların daha hızlı alınmasını sağlayabilir.
Avantajlar
Makine öğrenimi için eğitim zamanını günlerden dakikalara indirin
Amazon EC2 P3 bulut sunucuları; makine öğrenimi uygulamalarını hızlandırması gereken veri bilimcileri, araştırmacılar ve geliştiriciler için makine öğrenimi eğitimine yönelik bulutta en hızlı olanlardır. Amazon EC2 P3 bulut sunucuları sekize kadar en son nesil NVIDIA Tensor Core V100 GPU ile donatılmıştır ve karma hassaslıkta 1 petaflopa kadar performans sunarak ML iş yüklerini önemli oranda hızlandırır. Daha hızlı model eğitimi sayesinde veri bilimcileri ve makine öğrenimi mühendisleri daha hızlı yineleme yapabilir, daha fazla model eğitebilir ve doğruluk oranını artırabilir.
Makine öğrenimi eğitimi için sektördeki̇ en uygun maliyetli çözüm
Esnek fiyatlandırma planlarıyla birlikte buluttaki en güçlü GPU bulut sunucularından biridir ve makine öğrenimi eğitimi için son derece uygun maliyetli bir çözüm sağlar. Genelde Amazon EC2 bulut sunucularında olduğu gibi P3 bulut sunucuları da İsteğe Bağlı Bulut Sunucuları, Rezerve Edilmiş Bulut Sunucuları ve Spot Bulut Sunucuları olarak erişilebilirdir. Spot Bulut Sunucuları, kullanılmayan EC2 bulut sunucusu kapasitesinden yararlanır ve Amazon EC2 maliyetlerinizi, İstek Üzerine fiyatlarından %70'e varan oranda düşürür.
Esnek, güçlü ve yüksek performanslı bilgi işlem
Şirket içi sistemlerin aksine, yüksek performanslı bilgi işlem iş yüklerinizi Amazon EC2 P3 bulut sunucularında çalıştırdığınızda altyapınızı ölçeklendirme konusunda neredeyse sınırsız kapasitenin yanı sıra kaynaklarınızı kolayca ve iş yükü gereksinimlerinize göre dilediğiniz sıklıkta değiştirme olanağına sahip olursunuz. Kaynaklarınızı uygulamanızın gereksinimlerini karşılayacak şekilde yapılandırabilir ve dakikalar içinde bir HPC kümesi başlatabilirsiniz. Üstelik yalnızca kullandığınız kadar ödersiniz.
Hemen oluşturmaya başlayın
Derin öğrenme ortamlarını dakikalar içinde dağıtmak için önceden paketlenmiş Docker görüntülerini kullanın. Görüntüler gerekli derin öğrenim framework kitaplıklarını (şu anda TensorFlow ve Apache MXNet) ve araçlarını içermekte olup tamamen test edilmiştir. Daha yüksek düzeyde izleme, uygunluk ve veri işleme denetimi için bu görüntülerin üzerine kendi kitaplıklarınızı ve araçlarınızı kolayca ekleyebilirsiniz. Buna ek olarak, Amazon EC2 P3 bulut sunucuları Amazon SageMaker ile sorunsuz şekilde birlikte çalışarak güçlü, sezgisel ve eksiksiz bir makine öğrenimi platformu sunar. Amazon SageMaker, hızlı ve kolay bir şekilde makine öğrenimi modelleri oluşturup bunları eğitmenize ve dağıtmanıza olanak sağlayan, tam olarak yönetilen bir makine öğrenimi platformudur. Ayrıca, Amazon EC2 P3 bulut sunucuları, popüler derin öğrenme entegrasyonuyla önceden yüklenmiş olan AWS Deep Learning Amazon Makine Görüntüleri (AMI'lar) ile entegre edilebilir. Bu sayede, makine öğrenimi eğitimi ve çıkarımıyla daha hızlı ve daha kolay bir şekilde işe koyulabilirsiniz.
Ölçeklenebilir çok düğümlü makine öğrenimi eğitimi
Makine öğrenimi modellerini hızlı bir şekilde eğitmek için birden çok Amazon EC2 P3 bulut sunucusunu 100 Gb/sn.'ye kadar ağ iletişimi aktarım hızıyla kullanabilirsiniz. Daha yüksek ağ oluşturma kapasitesi, geliştiricilerin veri aktarım engellerini kaldırmalarına ve model eğitim işlerini birden fazla P3 bulut sunucusunda verimli bir şekilde ölçeklendirmelerine olanak tanır. Müşteriler, ortak bir görüntü sınıflandırma modeli olan ResNet-50'yi, 16 P3 bulut sunucusunu kullanarak sadece 18 dakikada endüstri standardı hassasiyeti ile çalıştırabildiler. Bu performans seviyesine, ML müşterilerinin büyük çoğunluğu daha önce erişemedi çünkü şirket içi GPU kümelerini oluşturmak için büyük bir CapEx yatırımı gerekiyordu. P3 bulut sunucuları ve İsteğe Bağlı kullanım modeliyle kullanılabilirlikleri sayesinde, bu performans düzeyine artık tüm geliştiriciler ve makine öğrenimi mühendisleri ulaşabilir. Ayrıca, P3dn.24xlarge bulut sunucuları binlerce GPU’ya ölçeklendirmek için NVIDIA Collective Communications Library’yi (NCCL) kullanan Elastic Fabric Adapter’ı (EFA) destekler.
Tüm önemli makine öğrenimi çerçeveleri için destek
Amazon EC2 P3 bulut sunucuları; TensorFlow, PyTorch, Apache MXNet, Caffe, Caffe2, Microsoft Cognitive Toolkit (CNTK), Chainer, Theano, Keras, Gluon ve Torch dahil olmak üzere tüm önemli makine öğrenimi çerçevelerini destekler. Böylece uygulamanız için en uygun çerçeveyi seçme esnekliğine sahip olursunuz.
Müşteri öyküleri
Airbnb, makine öğrenimini kullanarak arama önerilerini optimize etmesinin yanı sıra ev sahipleri için dinamik fiyatlandırma yönergelerini iyileştirerek rezervasyon oranının artmasını sağlıyor. Airbnb, Amazon EC2 P3 bulut sunucuları sayesinde eğitim iş yüklerini daha hızlı çalıştırma, daha fazla yineleme gerçekleştirme, daha iyi makine öğrenimi modelleri oluşturma ve maliyeti düşürme olanağına sahip oluyor.
Dünya çapında bir biyoteknoloji şirketi olan Celgene, tedaviyi hastayla eşleştiren hedeflenmiş terapiler geliştiriyor. Şirket, HPC iş yüklerini Amazon EC2 P3 bulut sunucularında yeni nesil genomik sekanslama ve kimyasal simülasyonlar için çalıştırıyor. Bu işlem gücü sayesinde Celgene, kötü huylu ve iyi huylu hücreler arasında ayrım yapmak için derin öğrenme modelleri eğitebiliyor. P3 bulut sunucularını kullanmaya başlamadan önce çalıştırılması iki ay süren büyük ölçekli hesaplama işleri, şimdi ise sadece dört saatte tamamlanıyor. AWS teknolojileri sayesinde Celgene, kanser ve enflamatuar hastalıklar için ilaç terapilerini artık daha hızlı geliştiriyor.
Görüntü ve video işlemek için makine öğrenimi tabanlı yeni teknolojileri uygulama konusunda uzmanlaşan Hyperconnect, mobil platformlar için webRTC geliştiren ilk şirketti.
“Hyperconnect, bir kullanıcının bulunduğu mevcut ortamı tanıması için video iletişim uygulamasında Yapay Zeka tabanlı görüntü sınıflandırması kullanır. Horovod’u kullanarak şirket içi iş istasyonlarından çoklu Amazon EC2 P3 bulut sunucusuna geçerek ML modeli eğitim zamanımızın bir haftadan fazla süreden bir günden aza indirdik. Makine öğrenimi çerçevemiz olarak PyTorch’u kullanarak hızla modeller oluşturabildik ve açık kaynak topluluğu tarafından erişilebilir kitaplıklardan yararlanabildik.”
Sungjoo Ha, Yapay Zeka Laboratuvarı Direktörü - Hyperconnect
NerdWallet, müşterilerin borçlarını ödemelerini, en iyi finansal ürün ve hizmetleri seçmelerini ve bir ev almak veya emeklilik için birikim yapmak gibi büyük hayat hedeflerini yakalamalarını kolaylaştıran aletleri ve tavsiyeleri sağlayan kişisel bir finansal startup’tır. Şirket, müşterileri kişisel finansal ürünler ile bağlantıya geçirmek için yoğun şekilde veri bilimi ve makine öğrenimine (ML) dayanır.
Amazon SageMaker ve Amazon EC2 P3 bulut sunucularının NVIDIA V100 Tensor Core GPU’ları ile kullanımı NerdWallet’in esnekliğini ve performansını arttırmakla beraber veri bilimcilerinin ML modellerini eğitmesi için gereken zamanı azalttı. “Modelleri başlatmamız ve bu modelleri temel alarak yineleme yapmamız aylar sürerdi, şimdi yalnızca birkaç gün sürüyor.”
Ryan Kirkman, Kıdemli Mühendislik Yöneticisi - NerdWallet
Kalite sistemleri çözümlerinde bir lider olan Aon PathWise, bir dizi müşteriye hız, güvenilirlik, güvenlik ve istek üzerine hizmet sunan kurumsal risk yönetimi modellemeye yönelik bulut tabanlı bir SaaS uygulaması paketidir.
“Aon PathWise Solutions Group, yatırım stratejilerini, düzenleme ve ekonomik tahminleri ve bütçelemeyi yönetme ve test etme zorlukları gibi günümüzün önemli sigorta zorluklarını hızla çözmek için müşterilerimizin en son teknolojiden yararlanmalarını sağlayan bir risk yönetimi çözümü sağlıyor. PathWise, 2011 yılından beri üretim ortamında AWS’de çalışıyor ve bugün sürekli ilerleyen ve gelişen pazar ortamında tüm dünya genelinden müşterilerimiz için bu zorlukları çözmek için gerekli hesaplamaları hızlandırmak amacıyla Amazon EC2 P Serisi bulut sunucularını kullanıyor.”
Peter Phillips, Başkan ve CEO - PathWise Solutions Group
Derin öğrenme modellerinin eğitimini hızlandırmak için AWS'deki P3 bulut sunucularında karma hassasiyetli eğitim kullanan Pinterest, bu bulut sunucularını aynı zamanda kullanıcılara hızlı ve benzersiz bir keşif deneyimi sunmak için bu modellerden daha hızlı çıkarım yapmak üzere kullanıyor. Pinterest, AWS üzerinde PyTorch kullanılarak yapılan PinSage'i kullanıyor. Bu AI modeli, belirli temalar doğrultusunda görüntüleri gruplara ayırıyor. 3 milyar görüntünün yer aldığı platformda, görüntüleri birbirine bağlayan 18 milyar farklı ilişkilendirme bulunuyor. Bu ilişkilendirmeler, Pinterest'in tema ve stillere bağlam kazandırmasına ve daha kişiselleştirilmiş kullanıcı deneyimleri üretmesine yardımcı oluyor.
Einstein Vision ürününü desteklemek için makine öğrenimi kullanan Salesforce, yazılım geliştiricilerin görsel arama, marka algılama ve ürün tanımlama gibi kullanım örneklerine yönelik olarak görüntü tanıma teknolojisinin gücünden yararlanmasını mümkün kılıyor. Amazon EC2 P3 bulut sunucuları, yazılım geliştiricilerin derin öğrenme modellerini çok daha hızlı eğiterek makine öğrenimi hedeflerine hızla ulaşmasına olanak tanıyor.
Schrodinger, keşif ve optimizasyon ölçeğini genişletmenin yanı sıra müşterilerine hayat kurtaran ilaçları pazara daha hızlı ulaştırma olanağı sağlamak amacıyla tahmine dayalı modeller geliştirmek için yüksek performanslı bilgi işlem (HPC) kullanıyor. Amazon EC2 P3 bulut sunucuları, P2 bulut sunucularına kıyasla Schrodinger’in günde dört kata kadar daha fazla simülasyon gerçekleştirmesine olanak sağlıyor.
Subtle Medical, inovatif derin öğrenme çözümleri ile tıbbi görüntüleme verimliliğini ve hasta deneyimini artırmak için çalışan bir sağlık hizmetleri teknolojisi şirketidir. Ekibi; Stanford, MIT, MD Anderson ve daha fazlasından ünlü görüntüleme bilimi insanları, radyolog ve Yapay Zeka uzmanlarından oluşmaktadır.
“Hastaneler ve görüntüleme merkezleri, BT bölümlerine GPU uzmanlığı edinme, masraflı veri merkezleri veya mini bulutlar oluşturma ve bakımlarını yapma zahmetini yüklemeden bu çözümü benimsemek istiyor. Olabildiğince az çaba ve yatırım ile dağıtımlarında başarılı olmak istiyorlar... AWS bunu mümkün kılıyor.”
Enhao Gong, Kurucu ve CEO - Subtle Medical
Western Digital, disk sürücülerinin ve depolama çözümlerinin performansı ile kalitesini iyileştirmek amacıyla HPC kullanarak malzeme bilimi, ısı akışları, manyetik bilimi ve veri aktarımı için on binlerce simülasyon çalıştırıyor. İlk testlere göre, P3 bulut sunucuları sayesinde mühendislik ekipleri simülasyonları daha önce dağıtılan çözümlere kıyasla en az üç kat daha hızlı çalıştırabiliyor.
Amazon EC2 P3 bulut sunucuları ve Amazon SageMaker
Makine öğrenimi modellerini eğitmenin ve çalıştırmanın en hızlı yolu
Amazon SageMaker, makine öğrenimi modelleri oluşturup bunları eğitmeye ve dağıtmaya yönelik, tam olarak yönetilen bir hizmettir. Amazon EC2 P3 bulut sunucuları ile birlikte kullanıldığında, müşteriler bir modeli ölçeğinden bağımsız olarak, kümeler ve veri işlem hatları ayarlama konusunda endişelenmeleri gerekmeksizin hızla eğitmek için ölçeği onlarca, yüzlerce veya binlerce GPU içerecek şekilde kolayca genişletebiliyor. Ayrıca, Amazon SageMaker’daki eğitim ve barındırma iş akışları için Amazon Virtual Private Cloud (Amazon VPC) kaynaklarına kolayca erişebilirsiniz. Bu özellik sayesinde, yalnızca VPC’niz aracılığıyla erişilebilen Amazon Simple Storage Service (Amazon S3) klasörlerinizi eğitim verilerini depolamanın yanı sıra eğitim sürecinden elde edilen model yapıtlarını depolayıp barındırmak için kullanabilirsiniz. Modeller S3’e ek olarak VPC’nin içerdiği diğer tüm AWS kaynaklarına da erişebilir. Daha fazla bilgi edinin.
Oluşturma
Amazon SageMaker, makine öğrenimi modellerini oluşturmayı ve onları eğitime hazır hale getirmeyi kolaylaştırır. Eğitim verilerinize hızlıca bağlanmak, uygulamanız için en iyi algoritma ile çerçeveyi seçmek ve optimize etmek için ihtiyacınız olan her şeyi sağlar. Amazon SageMaker, Amazon S3'te depolanan eğitim verilerinizi keşfetmeyi ve görselleştirmeyi kolaylaştırmaya yönelik barındırılan Jupyter Notebook'ları içerir. Ayrıca, not defterlerini kullanarak model eğitimi işleri oluşturmaya yönelik kod yazabilir, modelleri Amazon SageMaker barındırma ortamına dağıtabilir ve modellerinizi test edebilir ya da doğrulayabilirsiniz.
Eğitme
Konsoldan tek bir tıklamayla veya bir API çağrısıyla modelinizi eğitmeye başlayabilirsiniz. Amazon SageMaker, en güncel TensorFlow ve Apache MXNet sürümleriyle önceden yapılandırılmıştır ve NVIDIA GPU'larla en uygun performansı sunmak için CUDA9 kitaplığını destekler. Bunun da ötesinde, en doğru tahminlere hızla ulaşılması amacıyla hiper parametre optimizasyonu akıllı bir şekilde model parametrelerinin farklı kombinasyonlarını ayarlayarak modelinizde otomatik olarak ince ayarlar yapabilir. Büyük ölçekli gereksinimleriniz varsa oluşturma sürecinin daha hızlı olması için ölçeğinizi onlarca bulut sunucusu içerecek şekilde büyütebilirsiniz.
Dağıtma
Eğitim tamamlandıktan sonra modelinizi tek tıklamayla birden çok Erişilebilirlik Alanında otomatik olarak ölçeklendirilebilen Amazon EC2 bulut sunucularına dağıtabilirsiniz. Amazon SageMaker, yerleşik Amazon CloudWatch izleme ve günlüğe kaydetme özellikleri ile üretim aşamasında işlem altyapısını sizin adınıza yöneterek durum denetimleri gerçekleştirir, güvenlik düzeltme ekleri uygular ve diğer rutin bakım işlemlerini yapar.
Amazon EC2 P3 bulut sunucuları ve AWS Deep Learning AMI’leri
Hızla derin öğrenme uygulamaları oluşturmaya başlamak için önceden yapılandırılmış geliştirme ortamları
Daha özel gereksinimlerine sahip yazılım geliştiriciler için Amazon SageMaker’a bir alternatif sunan AWS Deep Learning AMI'leri, makine öğrenimi uygulayıcılarına ve araştırmacılarına bulutta ve tüm ölçeklerde derin öğrenimi hızlandırmak için kullanabilecekleri altyapıyı ve araçları sunar. TensorFlow, PyTorch, Apache MXNet, Microsoft Cognitive Toolkit, Caffe, Caffe2, Theano, Torch, Chainer, Gluon ve Keras gibi popüler derin öğrenme çerçevelerinin önceden yüklendiği Amazon EC2 P3 bulut sunucularını hızla başlatarak gelişmiş ve özel AI modelleri eğitebilir, yeni algoritmalarla denemeler yapabilir veya yeni beceriler ve teknikler edinebilirsiniz. Daha fazla bilgi edinin >>
Amazon EC2 P3 bulut sunucuları ve yüksek performanslı bilgi işlem
AWS’de HPC’nin gücünden yararlanarak işleme dayalı büyük sorunları çözün ve yeni öngörüler edinin
Amazon EC2 P3 bulut sunucuları mühendislik simülasyonları, hesaplamalı finans, sismik analiz, moleküler modelleme, genomik, görsel işleme ve benzeri, yoğun GPU işlemi gerektiren iş yüklerini çalıştırmak için ideal bir platformdur. Yüksek performanslı bilişim (HPC), bilim insanlarının ve mühendislerin bu karmaşık, yoğun işlem kaynağı gerektiren sorunları çözmesine olanak tanır. HPC uygulamaları genellikle yüksek ağ performansı, hızlı depolama, büyük miktarda bellek, çok yüksek kapasiteli işlem özellikleri ya da bunların hepsini birden gerektirir. AWS, bulutta HPC çalıştırarak ve çoğu şirket içi ortamda mümkün olmayacak bir düzeyde daha fazla paralel görev çalıştıracak şekilde ölçeklendirme uygulayarak araştırma hızını artırmanıza ve sonuç elde etme süresini kısaltmanıza imkan tanır. Örneğin, P3dn.24xlarge bulut sunucuları binlerce GPU’ya ölçeklendirmek için Message Passing Interface’i (MPI) kullanarak HPC uygulamalarına olanak sağlayan Elastic Fabric Adapter’ı (EFA) destekler. AWS, belirli uygulamalar için optimize edilmiş ve büyük sermaye yatırımları gerektirmeyen çözümler tedarik ederek maliyetlerin azaltılmasına yardımcı olur. Daha fazla bilgi edinin >>
NVIDIA RTX Virtual Workstation Desteği
NVIDIA RTX Virtual Workstation AMI'leri, AWS cloud'da NVIDIA Volta V100 GPU'larıyla çalışan güçlü P3 bulut sunucuları kullanarak yüksek grafik performansı sunar. Dört adede kadar 4K masaüstü çözünürlüğünü destekleyen bu AMI'ler, en güncel RTX sürücüleri ve NVIDIA ISV sertifikaları önceden yüklenmiş, en güncel NVIDIA GPU grafik yazılımına sahiptir. NVIDIA V100 GPU'lu P3 bulut sunucuları, RTX vWS ile birlikte 32 GiB'a kadar GPU belleği, hızlı ışın izleme ve yapay zeka destekli görüntü işleme sağlayarak bulutta yüksek performanslı bir iş istasyonu sunar.
Yeni AMI'lere, Windows Server 2016 ve Windows Server 2019 desteğiyle birlikte AWS Marketplace'ten erişilebilir.
Amazon EC2 P3dn.24xlarge bulut sunucuları
Dağıtılmış makine öğrenimi ve yüksek performanslı bilişim için optimize edilmiş yeni, daha hızlı, daha güçlü ve daha büyük bulut sunucusu boyutu
Amazon EC2 P3dn.24xlarge bulut sunucuları, kullanılabilir en hızlı, en güçlü ve en büyük P3 bulut sunucusu boyutudur ve 100 Gbps'ye kadar ağ iletişimi aktarım hızı, her birinde 32 GiB bellek bulunan 8 adet NVIDIA® Tensor Core V100 GPU, 96 adet özel Intel® Xeon® Ölçeklenebilir (Skylake) vCPU ve 1,8 TB yerel NVMe tabanlı SSD depolama alanı sağlar. Daha hızlı ağ, yeni işlemciler, iki kat GPU belleği ve ek vCPU'lar sayesinde geliştiriciler, işlerinin ölçeğini birkaç bulut sunucusuna genişleterek (örneğin 16, 32 veya 64 bulut sunucusu) makine öğrenimi modellerini eğitme süresini önemli ölçüde kısaltabilir ve daha fazla HPC simülasyonu çalıştırabilir. Makine öğrenimi modelleri, eğitim için büyük miktarda veri gerektirir. Bulut sunucuları arasında veri aktarım hızını artırmanın yanı sıra P3dn.24xlarge bulut sunucularının ilave ağ aktarım hızı, büyük miktarda eğitim verisine ulaşmak amacıyla Amazon S3'e veya Amazon EFS gibi paylaşılan dosya sistemleri çözümlerine bağlanarak hız artırıcı olarak kullanılabilir.
Performans sorunlarını ortadan kaldırın ve makine öğrenimi eğitim zamanını azaltın
100 Gbps'lik ağ iletişimi aktarım hızıyla geliştiriciler, dağıtılmış eğitim için çok sayıda P3dn.24xlarge bulut sunucusunu verimli bir şekilde kullanabilir ve modellerini eğitmek için gereken zamanı önemli ölçüde azaltabilir. 2,5 GHz'de çalışan AVX-512 yönergelerine sahip AWS'ye özel Intel Skylake işlemcilerden oluşan 96 vCPU, verilerin önceden işlemesini optimize etmeye yardımcı olur. Dahası, P3dn.24xlarge bulut sunucuları, ana sunucu donanımının neredeyse tüm işlem ve bellek kaynaklarını bulut sunucularınıza ileten, tahsis edilmiş donanımın ve basit bir hiper yöneticinin birleşimi olan AWS Nitro System'ı kullanmaktadır. P3dn.24xlarge bulut sunucuları, binlerce GPU'ya ölçeklendirmek için NVIDIA Collective Communications Library'yi (NCCL) kullanarak makine öğrenimi uygulamalarına olanak sağlayan Elastic Fabric Adapter'ı da destekler.
GPU kullanımını optimize ederek toplam sahip olma maliyetini düşürün
Elastic Network Adapter'ın en son sürümünü kullanarak 100 Gb/sn. toplam ağ bant genişliğine sahip gelişmiş ağ, yalnızca birkaç P3dn.24xlarge bulut sunucusundaki verileri paylaşmak için değil aynı zamanda Amazon S3 veya Amazon EFS gibi paylaşılan dosya sistemleri çözümü aracılığıyla yüksek verimli veri erişimi için de kullanılabilir. GPU'ların kullanımını optimize etmek ve işlem bulut sunucularından maksimum performans sağlamak için yüksek çıktı veri erişimi çok önemlidir.
Daha büyük ve karmaşık modelleri destekleyin
P3dn.24xlarge bulut sunucuları, daha gelişmiş ve daha büyük makine öğrenimi modellerini eğitmede, ayrıca görüntü sınıflandırması ve nesne algılama sistemleri için 4k görüntüler gibi daha büyük veri gruplarını işlemede esneklik sağlayan, 32 GiB belleğe sahip NVIDIA V100 Tensor Core GPU'lar sunar.
Amazon EC2 P3 bulut sunucusu ürün ayrıntıları
| Bulut Sunucusu Boyutu | GPU’lar – Tesla V100 | Eşler Arası GPU Ağı | GPU Belleği (GB) | vCPU'lar | Bellek (GB) | Ağ Bant Genişliği | EBS Bant Genişliği | İsteğe Bağlı Fiyatı/sa* | 1 Yıl Rezerve Edilmiş Bulut Sunucusu - Saatlik Olarak Geçerli* | 3 Yıl Rezerve Edilmiş Bulut Sunucusu Saatlik Olarak Geçerli* |
|---|---|---|---|---|---|---|---|---|---|---|
| p3.2xlarge | 1 | Yok | 16 | 8 | 61 | 10 Gbps'ye kadar | 1,5 Gb/sn. | 3,06 USD | 1,99 USD | 1,05 USD |
| p3.8xlarge | 4 |
NVLink | 64 | 32 | 244 | 10 Gbps | 7 Gbps | 12,24 USD | 7,96 USD | 4,19 USD |
| p3.16xlarge | 8 | NVLink | 128 | 64 | 488 | 25 Gbps | 14 Gbps | 24,48 USD | 15,91 USD | 8,39 USD |
| p3dn.24xlarge | 8 | NVLink | 256 | 96 | 768 | 100 Gb/sn. | 19 Gb/sn. | 31,218 USD | 18,30 USD | 9,64 USD |
* - Gösterilen fiyatlar ABD Doğu (Kuzey Virginia) AWS Bölgesinde bulunan Linux/Unix içindir ve en yakın kura yuvarlanır. Fiyatlandırma hakkında ayrıntılı bilgi için Amazon EC2 fiyatlandırma sayfasına bakın.
Müşteriler P3 bulut sunucularını İstek Üzerine Bulut Sunucuları, Rezerve Edilmiş Bulut Sunucuları, Spot Bulut Sunucuları ve Tahsis Edilmiş Konak Sunucular olarak satın alabilir.
Saniyelik faturalandırma
Bulut bilgi işlemin çok sayıdaki avantajından biri de kaynakları gerektiğinde tedarik edip gerekmediğinde kaldırma konusunda sahip olduğunuz esnekliktir. Kullanımı saniyelik birimlerle faturalandırarak müşterilerin esneklik düzeyini artırmasına, para tasarrufu sağlamasına ve kaynak ayırma sürecini makine öğrenimi hedeflerini gerçekleştirecek şekilde optimize etmesine olanak sağlıyoruz.
Rezerve Edilmiş Bulut Sunucusu fiyatlandırması
Rezerve Edilmiş Bulut Sunucuları, İstek Üzerine Bulut Sunucusu fiyatlandırmasına kıyasla önemli oranda indirim (%75'e kadar) sunar. Ayrıca, Rezerve Edilmiş Bulut Sunucuları belirli bir Erişilebilirlik Alanına atandığında kapasite rezervasyonu sağlayarak gerektiğinde bulut sunucusu başlatabilme konusunda kendinize daha fazla güvenmenizi sağlar.
Spot fiyatlandırması
Spot Bulut Sunucuları ile bulut sunucularınız çalıştığı sırada geçerli olan Spot fiyatını ödersiniz. Spot Bulut Sunucusu fiyatları Amazon EC2 tarafından belirlenir ve Spot Bulut Sunucusu kapasitesine yönelik uzun vadeli arz ve talep eğilimlerine göre kademeli olarak güncellenir. Spot Bulut Sunucuları, İstek Üzerine fiyatlandırmasına kıyasla %90'a varan indirimli oranlarla sunulur.
En geniş küresel erişilebilirlik
Amazon EC2 P3.2xlarge, P3.8xlarge ve P3.16xlarge bulut sunucuları 14 AWS Bölgesinde sunulduğundan, müşteriler makine öğrenimi modellerini verileri nerede depolanıyorsa orada eğitme ve dağıtma esnekliğine sahiptir. P3 bulut sunucularının erişilebildiği AWS Bölgeleri: ABD Doğu (K. Virginia), ABD Doğu (Ohio), ABD Batı (Oregon), Kanada (Orta), Avrupa (İrlanda), Avrupa (Frankfurt), Avrupa (Londra), Asya Pasifik (Tokyo), Asya Pasifik (Seul), Asya Pasifik (Sidney), Asya Pasifik (Singapur), Çin (Pekin), Çin (Ningksia) ve GovCloud (ABD Batı).
P3dn.24xlarge bulut sunucularının erişilebildiği AWS bölgeleri: Asya Pasifik (Tokyo), Avrupa (İrlanda), ABD Doğu (K. Virginia), ABD Batı (Oregon), GovCloud (ABD Batı) ve GovCloud (ABD Doğu).
Makine öğrenimi için Amazon EC2 P3 bulut sunucularını kullanmaya başlayın
Dakikalar içinde kullanmaya başlamak için Amazon SageMaker hakkında bilgi edinin veya Caffe2 ve Mxnet gibi popüler derin öğrenme çerçevelerinin önceden yüklendiği AWS Deep Learning AMI'yi kullanın. Alternatif olarak, GPU sürücüsünün ve CUDA araç setinin önceden yüklendiği NVIDIA AMI’yi de kullanabilirsiniz.
Bloglar, makaleler ve web seminerleri
Yayın Tarihi: 19 Aralık 2018
Düzey: 200
Görüntü işleme, bilgisayarların dijital görüntülerden veya videolardan yüksek düzeyde bilgi edinecek şekilde eğitilmesiyle ilgilidir. Görüntü işlemenin tarihi 1960’lı yıllara dayanır; ancak işleme teknolojisindeki son gelişmeler, otonom araçların yola çıkabilmesi gibi uygulama alanlarını mümkün kılmıştır. Bu teknoloji konuşmasında görüntü işlemeye yönelik makine öğrenimi modeli oluşturmak, eğitmek ve dağıtmak için gerekli olan farklı adımları inceleyeceğiz. Farklı Amazon EC2 bulut sunucularını kullanarak görüntü işleme modellerinin eğitimini kıyaslayıp farkları üzerinde duracağız ve Amazon EC2 P3 bulut sunucularını kullanarak zamandan büyük oranda nasıl tasarruf edebileceğinizi açıklayacağız.
Yayın Tarihi: 31 Temmuz 2018
Düzey: 200
Kurumlar gelişmiş bilim, enerji, yüksek teknoloji ve tıp alanlarındaki son derece karmaşık sorularla mücadele ediyor. Makine öğrenimi (ML); görüntü, video, konuşma tanıma, otonom araç sistemleri ve hava durumu tahmini gibi birçok farklı senaryonun hızlı bir şekilde keşfedilmesini sağlar ve bu senaryolar için en iyi yanıtları oluşturur. Amazon EC2 P3 bulut sunucuları, makine öğrenimi uygulamalarının geliştirilmesini hızlandırmak isteyen veri bilimcileri, araştırmacılar ve geliştiriciler için buluttaki en güçlü, uygun maliyetli ve çok yönlü GPU işlem bulut sunucularıdır.
Amazon SageMaker Hakkında
AWS'de Deep Learning Hakkında
Yüksek Performanslı Bilişim (HPC) Hakkında