Instans P3 Amazon EC2

Percepat aplikasi machine learning dan komputasi kinerja tinggi dengan GPU yang kuat

Instans P3 Amazon EC2 memberikan komputasi kinerja tinggi di cloud hingga 8 GPU NVIDIA® V100 Tensor Core dan hingga 100 Gbps throughput jaringan untuk machine learning dan aplikasi HPC. Instans ini memberikan hingga satu petaflop kinerja dengan presisi campuran per instans untuk secara signifikan mempercepat machine learning dan aplikasi komputasi kinerja tinggi. Instans P3 Amazon EC2 telah terbukti mengurangi waktu pelatihan machine learning dari berhari-hari menjadi beberapa menit serta meningkatkan jumlah simulasi yang diselesaikan untuk komputasi kinerja tinggi hingga 3-4x.
Dengan hingga 4x bandwidth jaringan instans 16xlarge P3, instans P3dn.24xlarge Amazon EC2 adalah penambahan terbaru ke family P3, dioptimalkan untuk aplikasi machine learning dan HPC terdistribusi. Instans ini memberikan hingga 100 Gbps throughput jaringan, 96 vCPU Intel® Xeon® Scalable (Skylake) vCPU kustom, 8 GPU NVIDIA® V100 Tensor Core dengan memori masing-masing 32 GB, dan 1,8 TB NVMe lokal berbasis penyimpanan SSD.

Memperkenalkan P3dn.24xlarge Amazon EC2 - instans P3 paling kuat

Dioptimalkan untuk pelatihan machine learning dan komputasi kinerja tinggi terdistribusi

ReInvent_HA_P3_EDITORIAL

Keuntungan

KURANGI WAKTU PELATIHAN MACHINE LEARNING DARI BERHARI-HARI MENJADI BEBERAPA MENIT

Untuk saintis data, peneliti, dan pengembang yang perlu mempercepat aplikasi ML, instans P3 Amazon EC2 adalah yang paling cepat di cloud untuk pelatihan ML. Instans P3 EC2 dilengkapi dengan hingga delapan GPU NVIDIA Tesla V100 Tensor Core generasi terbaru dan memberikan hingga satu petaflop kinerja presisi campuran untuk secara signifikan mempercepat beban kerja ML. Pelatihan model yang lebih cepat memungkinkan saintis data dan teknisi machine learning mengulangi proses dengan lebih cepat, melatih lebih banyak model, dan meningkatkan akurasi.

SOLUSI INDUSTRI YANG PALING HEMAT BIAYA UNTUK PELATIHAN ML

Salah satu instans GPU yang paling kuat di cloud dikombinasikan dengan paket harga yang fleksibel menghasilkan solusi yang sangat hemat biaya untuk pelatihan machine learning. Sementara untuk instans Amazon EC2 secara umum, instans P3 tersedia sebagai Instans Pesanan, Instans Cadangan, atau Instans Spot. Instans Spot memanfaatkan kapasitas instans EC2 yang tidak terpakai dan mengurangi biaya Amazon EC2 secara signifikan hingga 70% potongan harga dari harga Pesanan.

KOMPUTASI KINERJA TINGGI YANG KUAT DAN FLEKSIBEL

Tidak seperti sistem di lokasi, menjalankan komputasi kinerja tinggi di instans P3 Amazon EC2 menawarkan kapasitas tidak terbatas secara virtual untuk menskalakan infrastuktur dan fleksibilitas Anda untuk mengubah sumber daya dengan mudah dan sesering yang diminta oleh beban kerja Anda. Anda dapat mengonfigurasikan sumber daya untuk memenuhi permintaan aplikasi Anda, dan meluncurkan klaster HPC dalam hitungan menit, membayar hanya sesuai yang Anda gunakan.

INTEGRASI DENGAN LAYANAN AWS MACHINE LEARNING

Instans P3 Amazon EC2 bekerja tanpa hambatan dengan Amazon SageMaker untuk memberikan platform machine learning lengkap yang kuat dan intuitif. Amazon SageMaker merupakan platform machine learning yang dikelola secara penuh yang memungkinkan Anda membangun, melatih, dan menerapkan model machine learning dengan cepat dan mudah. Selanjutnya, instans P3 Amazon EC2 dapat diintegrasikan dengan Amazon Machine Images (AMI) AWS Deep Learning yang telah diinstal sebelumnya dengan kerangka kerja deep learning populer. Hal ini mempercepat dan mempermudah untuk memulai dengan pelatihan dan inferensi machine learning.

MENDUKUNG SEMUA KERANGKA KERJA MACHINE LEARNING UTAMA

Instans P3 Amazon EC2 mendukung semua kerangka kerja machine learning utama termasuk TensorFlow, PyTorch, Apache MXNet, Caffe, Caffe2, Microsoft Cognitive Toolkit (CNTK), Chainer, Theano, Keras, Gluon, dan Torch. Anda memiliki fleksibilitas untuk memilih kerangka kerja yang bekerja paling baik untuk aplikasi Anda.

Pelatihan Machine Learning Multi-Node yang Dapat Diskalakan

Anda dapat menggunakan beberapa instans P3 Amazon EC2 dengan hingga 100 Gbps throughput jaringan untuk dengan cepat melatih model machine learning. Throughput jaringan yang lebih tinggi memungkinkan pengembang menghilangkan kemacetan transfer data dan secara efisien menskalakan pekerjaan pelatihan model mereka di beberapa instans P3. Pelanggan telah dapat melatih ResNet-50, model klasifikasi citra umum, untuk akurasi standar industri hanya dalam 18 menit menggunakan 16 instans P3. Level kinerja ini sebelumnya tidak dapat dicapai oleh sebagian besar pelanggan ML karena mengharuskan investasi CapEx yang besar untuk membangun klaster GPU di lokasi. Dengan instans P3 dan ketersediaannya melalui model penggunaan Pesanan, level kinerja ini sekarang dapat diakses oleh semua pelanggan dan teknisi machine learning.

Kisah Pelanggan

200x100_AirBNB_Logo

Airbnb menggunakan machine learning untuk mengoptimalkan rekomendasi pencarian dan meningkatkan panduan harga dinamis untuk host, yang keduanya menerjemahkan ke peningkatan konversi pemesanan. Dengan instans P3 Amazon EC2, Airbnb dapat menjalankan beban kerja pelatihan yang lebih cepat, melewati lebih banyak iterasi, membuat model machine learning yang lebih baik dan mengurangi biaya.

salesforce_logo_200x100

Salesforce menggunakan machine learning untuk menjalankan Einstein Vision, yang memungkinkan pengembang meningkatkan daya pengenalan gambar untuk kasus penggunaan seperti pencarian visual, deteksi merek, dan identifikasi produk. Instans P3 Amazon EC2 memungkinkan pengembang melakukan pelatihan model deep learning jauh lebih cepat sehingga mereka dapat mencapai tujuan machine learning dengan cepat.

western-digital_200x100

Western Digital menggunakan Komputasi Kinerja Tinggi (HPC) untuk menjalankan sekitar sepuluh ribu simulasi untuk sains material, aliran panas, magnetika, dan transfer data untuk meningkatkan kinerja dan kualitas disk drive dan solusi penyimpanan. Berdasarkan pengujian awal, instans P3 Amazon EC2 memungkinkan tim teknik menjalankan simulasi setidaknya tiga kali lebih cepat dari solusi yang diterapkan sebelumnya.  

schrodinger-200x100

Schrodinger menggunakan komputasi kinerja tinggi (HPC) untuk mengembangkan model prediktif untuk memperluas skala pencarian dan optimalisasi serta memberi pelanggan kemampuan untuk memberi penyelamatan kepada pasar lebih cepat. Instans P3 Amazon EC2 memungkinkan Schrodinger menjalankan sebanyak empat kali simulasi dalam satu hari dengan instans P2.  

Instans P3 Amazon EC2 dan Amazon SageMaker

Cara Tercepat untuk Melatih dan Menjalankan Model Machine Learning

Amazon SageMaker adalah layanan yang dikelola sepenuhnya untuk membuat, melatih, dan menerapkan model machine learning. Pada saat digunakan dengan instans P3 Amazon EC2, pelanggan dapat menskalakan ke puluhan, ratusan, atau ribuan GPU dengan mudah untuk melatih model dengan cepat pada segala skala tanpa perlu khawatir menyiapkan klaster dan sistem data. Anda juga dapat mengakses sumber daya Amazon Virtual Private Cloud (Amazon VPC) dengan mudah untuk pelatihan dan hosting alur kerja di Amazon SageMaker. Dengan fitur ini, Anda dapat menggunakan bucket Amazon Simple Storage Service (Amazon S3) yang hanya dapat diakses melalui VPC untuk menyimpan data pelatihan, serta untuk menyimpan dan meng-host artefak model yang diperoleh dari proses pelatihan. Selain S3, model dapat mengakses semua sumber daya AWS lain yang terdapat di VPC. Pelajari selengkapnya.

Pembuatan

Amazon SageMaker mempermudah membangun model machine learning dan menyiapkannya untuk pelatihan. Amazon SageMaker memberikan semua yang Anda perlukan untuk terhubung dengan cepat ke data pelatihan Anda, dan untuk memilih dan mengoptimalkan algoritme dan kerangka kerja terbaik untuk aplikasi Anda. Amazon SageMaker meliputi buku catatan Jupyter yang di-host yang memudahkan untuk mengeksplorasi dan memvisualisasikan data pelatihan Anda yang disimpan di Amazon S3.  Anda juga dapat menggunakan instans buku catatan untuk membuat kode pembuatan tugas pelatihan model, menerapkan model ke hosting Amazon SageMaker, dan menguji atau memvalidasi model Anda.

Pelatihan

Anda dapat mulai melatih model Anda dengan satu klik di konsol atau dengan panggilan API. Amazon SageMaker telah dikonfigurasi sebelumnya dengan versi terbaru TensorFlow dan Apache MXNet, dan dengan dukungan pustaka CUDA9 untuk kinerja optimal dengan GPU NVIDIA. Selain itu, optimalisasi hiper-parameter dapat menyesuaikan model Anda secara otomatis dengan menyesuaikan kombinasi parameter yang berbeda secara cerdas untuk mencapai prediksi yang paling akurat dengan cepat. Untuk keperluan skala yang lebih besar, Anda dapat menskalakan ke puluhan instans untuk mendukung pembuatan model yang lebih cepat.

Penerapan

Setelah pelatihan, Anda dapat menerapkan model Anda dengan satu klik pada auto-scaling instans Amazon EC2 di beberapa Availability Zone. Pada saat produksi, Amazon SageMaker membantu Anda mengelola infrastruktur komputasi untuk melakukan pemeriksaan kesehatan, memasang patch pengaman, dan melakukan perawatan rutin lain, semuanya dengan pemantauan dan log Amazon CloudWatch bawaan.

 

Instans P3 Amazon EC2 dan AMI AWS Deep Learning

Pengembangan lingkungan pra-konfigurasi untuk mulai membuat aplikasi deep leaning dengan cepat

Selain Amazon SageMaker bagi pengembang yang memiliki persyaratan yang lebih terkustomisasi, AMI AWS Deep Learning menyediakan praktisi dan peneliti machine learning dengan infrastruktur dan peralatan guna mempercepat proses deep learning dalam cloud, pada segala skala. Anda dapat dengan cepat meluncurkan instans P3 Amazon EC2 yang telah diinstal sebelumnya menggunakan kerangka kerja deep learning populer seperti TensorFlow, PyTorch, Apache MXNet, Microsoft Cognitive Toolkit, Caffe, Caffe2, Theano, Torch, Chainer, Gluon, dan Keras untuk melatih model AI kustom yang canggih, bereksperimen dengan algoritme baru, atau mempelajari keahlian dan teknik baru. Pelajari selengkapnya

Instans P3 Amazon EC2 P3 dan Komputasi Kinerja Tinggi

Atasi masalah komputasi besar dan dapatkan pengetahuan baru menggunakan kekuatan HPC di AWS

Instans P3 Amazon EC2 merupakan platform yang ideal untuk menjalankan simulasi teknik, keuangan komputasional, analisis seismik, pemodelan molekul, genomik, perenderan, dan beban kerja komputasi GPU lainnya. Komputasi Kinerja Tinggi (HPC) memungkinkan para saintis dan teknisi memecahkan masalah komputasi intensif yang rumit ini. Aplikasi HPC sering membutuhkan kinerja jaringan tinggi, penyimpanan cepat, memori dalam jumlah besar, kemampuan komputasi yang tinggi, atau semua hal tersebut. AWS memungkinkan Anda meningkatkan kecepatan penelitian dan mengurangi waktu-ke-hasil dengan menjalankan HPC di cloud dan penskalaan ke sejumlah besar tugas paralel yang praktis di sebagian besar lingkungan di lokasi. AWS membantu mengurangi biaya dengan menyediakan solusi yang dioptimalkan untuk aplikasi tertentu, dan tanpa perlu investasi modal besar. Pelajari selengkapnya

Instans P3dn.24xlarge Amazon EC2

Ukuran Instans Baru yang Lebih Cepat, Lebih Kuat, dan Lebih Besar Dioptimalkan untuk Machine Learning dan Komputasi Kinerja Tinggi Terdistribusi

Instans P3dn.24xlarge Amazon EC2 adalah ukuran instans P3 tercepat, terkuat, dan terbesar yang tersedia serta memberikan hingga 100 Gbps throughput jaringan, 8 GPU NVIDIA® Tesla® V100 Tensor Core dengan masing-masing 32 GB memori, 96 vCPU Intel® Xeon® Scalable (Skylake) kustom, dan 1.8 TB penyimpanan SSD lokal berbasis NVMe. Semakin cepat jaringan, prosesor baru, penggandaan memori GPU, dan vCPU tambahan memungkinkan pengembang secara signifikan menurunkan waktu untuk melatih model ML mereka atau menjalankan lebih banyak simulasi HPC dengan menskalakan pekerjaan mereka di beberapa instans (misalnya, 16, 32, atau 64 instans). Model machine learning memerlukan data dalam jumlah besar untuk pelatihan dan, selain untuk meningkatkan throughput data yang lewat antar instans, throughput jaringan tambahan instans P3dn.24xlarge juga dapat digunakan untuk mempercepat akses ke data pelatihan dalam jumlah besar dengan menghubungkan ke Amazon S3 atau solusi sistem file bersama seperti Amazon EFS.

MENGHILANGKAN KEMACETAN DAN MENGURANGI WAKTU PELATIHAN MACHINE LEARNING

Dengan 100 Gbps throughput jaringan, pengembang dapat secara efisien menggunakan sejumlah besar instans P3dn.24xlarge (mis. 16, 32, atau 64 instans) untuk pelatihan terdistribusi dan secara signifikan mengurangi waktu untuk melatih model mereka. 96vCPU prosesor Intel Skylake khusus AWS dengan instruksi AVX-512 yang beroperasi pada 2,5 GHz membantu mengoptimalkan pemrosesan data sebelumnya. Selain itu, instans P3dn.24xlarge menggunakan Sistem Nitro AWS, kombinasi perangkat kerja khusus dan hypervisor ringan, yang secara praktis menyampaikan semua komputasi dan sumber daya memori perangkat keras host ke instans Anda.

 

Mengurangi TCO dengan mengoptimalkan pemanfaatan GPU

Meningkatkan jaringan menggunakan versi terbaru Adapter Jaringan Elastis dengan hingga 100 Gbps bandwidth jaringan dapat digunakan tidak hanya untuk berbagi data di beberapa instans P3dn.24xlarge, tetapi juga untuk akses data dengan throughput tinggi melalui Amazon S3 atau solusi sistem file bersama seperti Amazon EFS. Akses data throughput tinggi sangan penting untuk mengoptimalkan pemanfaatan GPU dan memberikan kinerja maksimum dari instans komputasi.

Mendukung model yang lebih besar dan lebih rumit.

Instans P3dn.24xlarge menawarkan GPU NVIDIA V100 Tensor Core dengan 32 GB memori yang memberikan fleksibilitas untuk melatih model machine learning yang lebih canggih dan lebih besar serta memproses batch data yang lebih besar seperti gambar 4k untuk klasifikasi gambar dan sistem deteksi objek.

 

Detail Produk Instans P3 Amazon EC2

Ukuran Instans GPU – Tesla V100 Peer to Peer GPU Memori GPU (GB) vCPU Memori (GB) Bandwidth Jaringan Bandwidth EBS Harga Pesanan/jam* Instans Cadangan 1 Tahun Efektif Per Jam* Instans Cadangan 3 Tahun Efektif Per Jam*
p3.2xlarge 1 N/A 16 8 61 Hingga 10 Gbps 1,5 Gbps 3,06 USD 1,99 USD 1,05 USD
p3.8xlarge 4
NVLink 64 32 244 10 Gbps 7 Gbps 12,24 USD 7,96 USD 4,19 USD
p3.16xlarge 8 NVLink 128 64 488 25 Gbps 14 Gbps 24,48 USD 15,91 USD 8,39 USD
p3dn.24xlarge 8 NVLink 256 96 768 100 Gbps 14 Gbps 31,218 USD 18,30 USD 9,64 USD

* - Harga yang ditunjukkan adalah untuk Linux/Unix di Wilayah AWS AS Timur (Virginia Utara) dan dibulatkan ke sen terdekat. Untuk detail harga lengkap, lihat halaman harga Amazon EC2.

Pelanggan dapat membeli instans P3 sebagai Instans Pesanan, Instans Cadangan, Instans Spot, dan Host Khusus.

PENAGIHAN BERDASARKAN DETIK

Salah satu kelebihan komputasi cloud adalah sifat penyediaan dan pembatalan penyediaan sumber daya yang elastis sesuai kebutuhan Anda. Dengan penggunaan penagihan menjadi hitungan detik, kami memungkinkan pelanggan menyesuaikan elastisitas mereka, menghemat biaya, dan memungkinkan mereka mengoptimalkan alokasi sumber daya untuk mencapai tujuan machine learning.

HARGA INSTANS CADANGAN

Instans Cadangan memberi Anda diskon yang signifikan (hingga 75%) dibandingkan dengan harga Instans Pesanan. Selain itu, ketika Instans Cadangan ditetapkan pada Availability Zone tertentu, instans tersebut menyediakan pencadangan kapasitas, sehingga Anda semakin yakin pada kemampuan Anda untuk meluncurkan instans saat Anda memerlukannya.

HARGA SPOT

Dengan Instans Spot, Anda membayar harga Spot yang berlaku untuk jangka waktu saat instans Anda berjalan. Harga Instans Spot diatur oleh Amazon EC2 dan disesuaikan secara bertahap berdasarkan tren jangka panjang dalam persediaan dan permintaan untuk kapasitas Instans Spot. Instans Spot tersedia dengan diskon hingga 90% dibandingkan dengan harga Pesanan.

Ketersediaan Global Terluas

1856-Updated Map Image-P3 Instances-transparentBG_1024x543

Instans P3.2xlarge, P3.8xlarge, dan P3.16xlarge Amazon EC2 tersedia di 14 Wilayah AWS sehingga pelanggan memiliki fleksibilitas untuk melatih dan menerapkan model machine learning di mana pun data mereka disimpan. Wilayah yang tersedia untuk P3 adalah Wilayah AWS AS Timur (Virginia U.), AS Timur (Ohio), AS Barat (Oregon), Kanada (Pusat), Eropa (Irlandia), Eropa (Frankfurt), Eropa (London), Asia Pasifik (Tokyo), Asia Pasifik (Seoul), Asia Pasifik (Sydney), Asia Pasifik (Singapura), Tiongkok (Beijing), Tiongkok (Ningxia), dan AWS GovCloud (AS).

Instans P3dn.24xlarge tersedia di wilayah AWS AS Timur (Virginia U.) dan AS Barat (Oregon).

Memulai dengan instans P3 Amazon EC2 untuk Machine Learning

Untuk memulai dalam hitungan menit, pelajari selengkapnya tentang Amazon SageMaker atau gunakan AMI AWS Deep Learning, yang telah diinstal sebelumnya dengan kerangka kerja deep learning populer seperti Caffe2 dan Mxnet. Atau, Anda juga dapat menggunakan AMI NVIDIA dengan driver GPU dan toolkit CUDA yang diinstal sebelumnya.

Postingan blog dan artikel

Tentang Amazon SageMaker

Klik di sini untuk mempelajari selengkapnya

Tentang Deep Learning di AWS

Klik di sini untuk mempelajari selengkapnya

Tentang Komputasi Kinerja Tinggi (HPC)

Klik di sini untuk mempelajari selengkapnya
Siap untuk memulai?
Daftar
Punya pertanyaan lainnya?
Hubungi kami