Instans P3 Amazon EC2

Percepat aplikasi machine learning dan komputasi kinerja tinggi dengan GPU yang kuat

Instans P3 Amazon EC2 memberikan komputasi berperforma tinggi di cloud dengan hingga 8 GPU NVIDIA® V100 Tensor Core dan throughput jaringan hingga 100 Gbps untuk machine learning dan aplikasi HPC. Instans ini memberikan hingga satu petaflop performa presisi campuran per instans untuk mempercepat machine learning dan aplikasi komputasi berperforma tinggi secara signifikan. Instans P3 Amazon EC2 telah terbukti mengurangi waktu pelatihan machine learning dari hitungan hari ke menit, serta meningkatkan jumlah simulasi yang diselesaikan untuk komputasi berperforma tinggi sebesar 3-4x.
Dengan hingga 4x bandwidth jaringan instans P3.16xlarge, instans P3dn.24xlarge Amazon EC2 adalah tambahan terbaru untuk family P3, yang dioptimalkan untuk machine learning terdistribusi dan aplikasi HPC. Instans ini memberikan throughput jaringan hingga 100 Gbps, 96 vCPU Intel® Xeon® Scalable (Skylake) kustom, 8 GPU NVIDIA® V100 Tensor Core dengan memori masing-masing 32 GB, dan penyimpanan SSD berbasis NVMe lokal 1,8 TB.

Lihat bagaimana instans Amazon EC2 P3 dapat membantu Anda dengan pelatihan machine learning Anda

EC2_P3_Thumb

Memperkenalkan P3dn.24xlarge Amazon EC2 - instans P3 yang paling canggih saat ini

Dioptimalkan untuk pelatihan machine learning terdistribusi dan komputasi berperforma tinggi

ReInvent_HA_P3_EDITORIAL

Keuntungan

KURANGI WAKTU PELATIHAN MACHINE LEARNING DARI BERHARI-HARI MENJADI BEBERAPA MENIT

Untuk ilmuwan data, peneliti, dan pengembang yang perlu mempercepat aplikasi ML, instans P3 Amazon EC2 adalah yang tercepat di cloud untuk pelatihan ML. Instans P3 Amazon EC2 dilengkapi dengan hingga delapan GPU NVIDIA V100 Tensor Core generasi terbaru dan memberikan hingga satu petaflop performa presisi campuran untuk mempercepat beban kerja ML secara signifikan. Pelatihan model yang lebih cepat memungkinkan saintis data dan teknisi machine learning mengulangi proses dengan lebih cepat, melatih lebih banyak model, dan meningkatkan akurasi.

SOLUSI PALING HEMAT BIAYA DI INDUSTRI UNTUK PELATIHAN ML

Salah satu instans GPU yang paling canggih di cloud yang digabungkan dengan paket harga yang fleksibel menghasilkan solusi yang sangat hemat biaya untuk pelatihan machine learning. Seperti instans Amazon EC2 secara umum, instans P3 tersedia sebagai Instans Sesuai Permintaan, Instans Cadangan, atau Instans Spot. Instans Spot memanfaatkan kapasitas instans EC2 yang tidak digunakan dan dapat menurunkan biaya Amazon EC2 secara signifikan dengan diskon hingga 70% dari harga Sesuai Permintaan.

KOMPUTASI KINERJA TINGGI YANG KUAT DAN FLEKSIBEL

Tidak seperti sistem on-premise, menjalankan komputasi berperforma tinggi di instans P3 Amazon EC2 menawarkan kapasitas yang hampir tidak terbatas untuk memperluas skala infrastuktur, dan fleksibilitas untuk mengubah sumber daya dengan mudah dan sesering yang diminta oleh beban kerja Anda. Anda dapat mengonfigurasi sumber daya untuk memenuhi permintaan aplikasi Anda, dan meluncurkan klaster HPC dalam hitungan menit, dengan membayar hanya sesuai yang Anda gunakan.

Segera Mulai Membangun

Gunakan citra Docker yang sudah dikemas sebelumnya untuk menerapkan lingkungan pembelajaran terperinci dalam hitungan menit. Citra tersebut berisi pustaka kerangka kerja pembelajaran mendalam yang diperlukan (saat ini TensorFlow dan Apache MXNet) serta alat-alat dan telah sepenuhnya diuji. Anda dapat dengan mudah menambahkan pustaka dan alat Anda sendiri pada citra tersebut untuk tingkat kontrol yang lebih tinggi atas pemantauan, kepatuhan, dan pemrosesan data. Selain itu, instans P3 Amazon EC2 bekerja tanpa hambatan dengan Amazon SageMaker untuk memberikan platform machine learning lengkap yang kuat dan intuitif. Amazon SageMaker merupakan platform machine learning yang dikelola secara penuh yang memungkinkan Anda membangun, melatih, dan menerapkan model machine learning dengan cepat dan mudah. Selain itu, instans P3 Amazon EC2 dapat diintegrasikan dengan Amazon Machine Image (AMI) AWS Deep Learning yang diinstal sebelumnya dengan kerangka kerja deep learning populer. Hal ini mempercepat dan mempermudah untuk memulai dengan pelatihan dan inferensi machine learning.

Pelatihan Machine Learning Multi-Node yang Dapat Diskalakan

Anda dapat menggunakan instans P3 Amazon EC2 dengan throughput jaringan hingga 100 Gbps untuk melatih model machine learning dengan cepat. Throughput jaringan yang lebih tinggi memungkinkan pengembang mengatasi kemacetan transfer data dan secara efisien memperluas skala tugas pelatihan model mereka di beberapa instans P3. Pelanggan dapat melatih ResNet-50, model klasifikasi image umum, sesuai akurasi standar industri hanya dalam 18 menit menggunakan 16 instans P3. Tingkat performa ini sebelumnya tidak dapat tercapai oleh sebagian besar pelanggan ML karena memerlukan investasi CapEx yang besar untuk membangun klaster GPU on-premise. Dengan instans P3 dan ketersediaannya melalui model penggunaan Sesuai Permintaan, tingkat performa ini sekarang dapat diakses oleh semua pengembang dan teknisi machine learning.

MENDUKUNG SEMUA KERANGKA KERJA MACHINE LEARNING UTAMA

Instans P3 Amazon EC2 mendukung semua kerangka kerja machine learning utama termasuk TensorFlow, PyTorch, Apache MXNet, Caffe, Caffe2, Microsoft Cognitive Toolkit (CNTK), Chainer, Theano, Keras, Gluon, dan Torch. Anda memiliki fleksibilitas untuk memilih kerangka kerja yang berfungsi paling baik untuk aplikasi Anda.

Kisah Pelanggan

200x100_AirBNB_Logo

Airbnb menggunakan machine learning untuk mengoptimalkan rekomendasi pencarian dan meningkatkan panduan harga dinamis untuk host, yang keduanya menerjemahkan ke peningkatan konversi pemesanan. Dengan instans P3 Amazon EC2, Airbnb dapat menjalankan beban kerja pelatihan yang lebih cepat, menjalani lebih banyak iterasi, membuat model machine learning yang lebih baik, dan mengurangi biaya.

salesforce_logo_200x100

Salesforce menggunakan machine learning untuk menjalankan Einstein Vision, yang memungkinkan pengembang meningkatkan daya pengenalan gambar untuk kasus penggunaan seperti pencarian visual, deteksi merek, dan identifikasi produk. Instans P3 Amazon EC2 memungkinkan pengembang melakukan pelatihan model deep learning jauh lebih cepat sehingga mereka dapat mencapai tujuan machine learning dengan cepat.

western-digital_200x100

Western Digital menggunakan komputasi performa tinggi (HPC) untuk menjalankan sekitar sepuluh ribu simulasi untuk ilmu material, aliran panas, magnetika, dan transfer data untuk meningkatkan performa dan kualitas drive disk dan solusi penyimpanan. Berdasarkan pengujian awal, instans P3 Amazon EC2 memungkinkan tim teknik menjalankan simulasi setidaknya tiga kali lebih cepat dari solusi yang diterapkan sebelumnya.  

schrodinger-200x100

Schrodinger menggunakan komputasi kinerja tinggi (HPC) untuk mengembangkan model prediktif untuk memperluas skala pencarian dan optimalisasi serta memberi pelanggan kemampuan untuk memberi penyelamatan kepada pasar lebih cepat. Instans P3 Amazon EC2 memungkinkan Schrodinger menjalankan sebanyak empat kali simulasi dalam satu hari dengan instans P2.  

Instans P3 Amazon EC2 dan Amazon SageMaker

Cara Tercepat untuk Melatih dan Menjalankan Model Machine Learning

Amazon SageMaker adalah layanan yang dikelola sepenuhnya untuk membuat, melatih, dan menerapkan model machine learning. Pada saat diagunakan dengan instans P3 Amazon EC2, pelanggan dapat menskalakan ke puluhan, ratusan, atau ribuan GPU dengan mudah untuk melatih model dengan cepat pada segala skala tanpa perlu khawatir menyiapkan klaster dan sistem data. Anda juga dapat mengakses sumber daya Amazon Virtual Private Cloud (Amazon VPC) dengan mudah untuk alur kerja pelatihan dan hosting di Amazon SageMaker. Dengan fitur ini, Anda dapat menggunakan bucket Amazon Simple Storage Service (Amazon S3) yang hanya dapat diakses melalui VPC untuk menyimpan data pelatihan, serta menyimpan dan meng-hosting artefak model yang berasal dari proses pelatihan. Selain S3, model dapat mengakses semua sumber daya AWS lain yang terdapat di VPC. Pelajari selengkapnya.

Pembuatan

Amazon SageMaker mempermudah untuk membuat model machine learning dan menyiapkannya untuk pelatihan. Layanan ini memberikan segala hal yang Anda perlukan untuk tersambung dengan cepat ke data pelatihan Anda, dan untuk memilih serta mengoptimalkan algoritme dan kerangka kerja terbaik untuk aplikasi Anda. Amazon SageMaker meliputi buku catatan Jupyter yang di-host yang memudahkan untuk mengeksplorasi dan memvisualisasikan data pelatihan Anda yang disimpan di Amazon S3.  Anda juga dapat menggunakan instans buku catatan untuk membuat kode pembuatan tugas pelatihan model, menerapkan model ke hosting Amazon SageMaker, dan menguji atau memvalidasi model Anda.

Pelatihan

Anda dapat mulai melatih model Anda dengan sekali klik di konsol atau dengan panggilan API. Amazon SageMaker telah dikonfigurasi sebelumnya dengan versi terbaru TensorFlow dan Apache MXNet, dan dengan dukungan pustaka CUDA9 untuk performa optimal dengan GPU NVIDIA. Selain itu, optimalisasi hiper-parameter dapat menyesuaikan model Anda secara otomatis dengan menyesuaikan kombinasi parameter yang berbeda secara cerdas untuk mencapai prediksi yang paling akurat dengan cepat. Untuk keperluan skala yang lebih besar, Anda dapat menskalakan ke puluhan instans untuk mendukung pembuatan model yang lebih cepat.

Penerapan

Setelah pelatihan, Anda dapat menggunakan fitur sekali klik untuk menyebarkan model Anda di instans Amazon EC2 auto-scaling di beberapa Availability Zone. Dalam produksi, Amazon SageMaker membantu Anda mengelola infrastruktur komputasi untuk melakukan pemeriksaan kesehatan, menerapkan patch keamanan, dan melakukan perawatan rutin lain, semuanya dengan pemantauan dan pencatatan log Amazon CloudWatch bawaan.

 

instans P3 Amazon EC2 dan AMI AWS Deep Learning

Pengembangan lingkungan pra-konfigurasi untuk mulai membuat aplikasi deep leaning dengan cepat

Selain Amazon SageMaker bagi pengembang yang memiliki persyaratan yang lebih terkustomisasi, AMI AWS Deep Learning menyediakan praktisi dan peneliti machine learning dengan infrastruktur dan peralatan guna mempercepat proses deep learning dalam cloud, pada segala skala. Anda dapat dengan cepat meluncurkan instans P3 Amazon EC2 yang ditelah diinstal sebelumnya dengan kerangka kerja deep learning populer seperti TensorFlow, PyTorch, Apache MXNet, Microsoft Cognitive Toolkit, Caffe, Caffe2, Theano, Torch, Chainer, Gluon, dan Keras untuk melatih model AI kustom yang canggih, bereksperimen dengan algoritme baru, atau mempelajari keahlian dan teknik baru. Pelajari lebih lanjut

Instans P3 Amazon EC2 P3 dan Komputasi Kinerja Tinggi

Atasi masalah komputasi besar dan dapatkan pengetahuan baru menggunakan kekuatan HPC di AWS

Instans P3 Amazon EC2 merupakan platform yang ideal untuk menjalankan simulasi teknik, keuangan komputasional, analisis seismik, pemodelan molekul, genomik, rendering, dan beban kerja komputasi GPU lainnya. Komputasi performa tinggi (HPC) memungkinkan ilmuwan dan teknisi memecahkan masalah padat komputasi yang kompleks ini. Aplikasi HPC sering kali memerlukan performa jaringan yang tinggi, penyimpanan cepat, memori dalam jumlah besar, kemampuan komputasi tinggi, atau semua itu. AWS memungkinkan Anda meningkatkan kecepatan penelitian dan mengurangi waktu-ke-hasil dengan menjalankan HPC di cloud dan penskalaan ke sejumlah besar tugas paralel yang praktis di sebagian besar lingkungan di lokasi. AWS membantu mengurangi biaya dengan menyediakan solusi yang dioptimalkan untuk aplikasi tertentu, dan tanpa perlu investasi modal besar. Pelajari lebih lanjut

Instans P3dn.24xlarge Amazon EC2

Ukuran Instans yang Lebih Cepat, Lebih Canggih, dan Lebih Besar yang Dioptimalkan untuk Machine Learning Terdistribusi dan Komputasi Berperforma Tinggi

Instans P3dn.24xlarge Amazon EC2 adalah ukuran instans P3 tercepat, tercanggih, dan terbesar yang tersedia serta memberikan throughput jaringan hingga 100 Gbps, 8 GPU NVIDIA® V100 Tensor Core dengan 32 GB memori masing-masing, 96 vCPU Intel® Xeon® Scalable (Skylake) kustom, dan penyimpanan SSD lokal berbasis NVMe 1,8 TB. Semakin cepat jaringan, prosesor baru, penggandaan memori GPU, dan vCPU tambahan memungkinkan pengembang secara signifikan menurunkan waktu untuk melatih model ML mereka atau menjalankan lebih banyak simulasi HPC dengan menskalakan pekerjaan mereka di beberapa instans (misalnya, 16, 32 atau 64 instans). Model machine learning memerlukan jumlah data yang besar untuk pelatihan dan, selain untuk meningkatkan throughput data yang lewat di antara instans, throughput jaringan tambahan instans P3dn.24xlarge juga dapat digunakan untuk mempercepat akses ke jumlah data pelatihan yang besar dengan menyambungkan ke Amazon S3 atau solusi sistem file bersama seperti Amazon EFS.

MENGATASI KEMACETAN DAN MENGURANGI WAKTU PELATIHAN MACHINE LEARNING

Dengan throughput jaringan 100 Gbps, pengembang dapat secara efisien menggunakan sejumlah besar instans P3dn.24xlarge (mis., 16, 32, atau 64 instans) untuk pelatihan terdistribusi dan secara signifikan menurunkan waktu untuk melatih model mereka. 96vCPUs prosesor Skylake Intel kustom AWS dengan instruksi AVX-512 yang beroperasi di 2,5GHz membantu mengoptimalkan pra-pemrosesan data. Selain itu, instans P3dn.24xlarge menggunakan AWS Nitro System, kombinasi perangkat kerja khusus dan hypervisor ringan, yang menyalurkan hampir seluruh sumber daya komputasi dan memori perangkat keras host ke instans Anda.

 

TCO yang lebih rendah dengan mengoptimalkan utilisasi GPU

Peningkatan jaringan menggunakan versi terbaru Elastic Network Adapter dengan bandwidth jaringan gabungan hingga 100 Gbps tidak hanya dapat digunakan untuk berbagi data di beberapa instans P3dn.24xlarge, tetapi juga untuk akses data throughput tinggi melalui Amazon S3 atau solusi sistem file bersama seperti Amazon EFS. Akses data throughput tinggi sangat penting untuk mengoptimalkan utilisasi GPU dan memberikan performa maksimum instans komputasi.

Mendukung model yang lebih besar dan lebih kompleks

Instans P3dn.24xlarge menawarkan GPU NVIDIA V100 Tensor Core dengan memori 32GB yang memberikan fleksibiltas untuk melatih model machine learning yang lebih canggih dan lebih besar serta memproses batch data yang lebih besar seperti gambar 4k untuk sistem klasifikasi gambar dan deteksi objek.

 

Detail Produk Instans P3 Amazon EC2

Ukuran Instans GPU – Tesla V100 Peer to Peer GPU Memori GPU (GB) vCPU Memori (GB) Bandwidth Jaringan Bandwidth EBS Harga Pesanan/jam* Instans Cadangan 1 Tahun Efektif Per Jam* Instans Cadangan 3 Tahun Efektif Per Jam*
p3.2xlarge 1 N/A 16 8 61 Hingga 10 Gbps 1,5 Gbps 3,06 USD 1,99 USD 1,05 USD
p3.8xlarge 4
NVLink 64 32 244 10 Gbps 7 Gbps 12,24 USD 7,96 USD $4,19
p3.16xlarge 8 NVLink 128 64 488 25 Gbps 14 Gbps 24,48 USD 15,91 USD $8,39
p3dn.24xlarge 8 NVLink 256 96 768 100 Gbps 14 Gbps $31,218 $18,30 $9,64

* - Harga yang ditampilkan adalah untuk Linux/Unix di Wilayah AWS AS Timur (Virginia Utara) dan dibulatkan ke sen terdekat. Untuk detail harga lengkap, lihat halaman harga Amazon EC2.

Pelanggan dapat membeli instans P3 sebagai Instans Pesanan, Instans Cadangan, Instans Spot, dan Host Khusus.

PENAGIHAN BERDASARKAN DETIK

Salah satu kelebihan komputasi cloud adalah sifat penyediaan dan pembatalan penyediaan sumber daya yang elastis sesuai kebutuhan Anda. Dengan penggunaan penagihan menjadi hitungan detik, kami memungkinkan pelanggan menyesuaikan elastisitas mereka, menghemat biaya, dan memungkinkan mereka mengoptimalkan alokasi sumber daya untuk mencapai tujuan machine learning.

HARGA INSTANS CADANGAN

Instans Cadangan memberi Anda diskon yang signifikan (hingga 75%) dibandingkan dengan harga Instans Sesuai Permintaan. Selain itu, ketika Instans Cadangan ditetapkan pada Availability Zone tertentu, Instans tersebut menyediakan pencadangan kapasitas, sehingga Anda semakin yakin pada kemampuan Anda untuk meluncurkan instans saat Anda memerlukannya.

HARGA SPOT

Dengan Instans Spot, Anda membayar harga Spot yang berlaku untuk periode waktu berjalannya instans Anda. Harga Instans Spot diatur oleh Amazon EC2 dan disesuaikan secara bertahap berdasarkan tren jangka panjang dalam persediaan dan permintaan untuk kapasitas Instans Spot. Instans Spot tersedia dengan diskon hingga 90% dibandingkan dengan harga Sesuai Permintaan.

Ketersediaan Global Terluas

1856-Updated Map Image-P3 Instances-transparentBG_1024x543

Instans P3.2xlarge, P3.8xlarge, dan P3.16xlarge Amazon EC2 tersedia di 14 Wilayah AWS sehingga pelanggan memiliki fleksibilitas untuk melatih dan menerapkan model machine learning di mana pun data mereka disimpan. Wilayah yang tersedia untuk P3 adalah wilayah AWS AS Timur (Virginia U.), AS Timur (Ohio), AS Barat (Oregon), Kanada (Pusat), Eropa (Irlandia), Eropa (Frankfurt), Eropa (London), Asia Pasifik (Tokyo), Asia Pasifik (Seoul), Asia Pasifik (Sydney), Asia Pasifik (Singapura), Cina (Beijing), Cina (Ningxia), dan Wilayah AWS GovCloud (AS) AWS.

Instans P3dn.24xlarge tersedia di wilayah AWS Eropa (Irlandia), AS Timur (Virginia U.) dan AS Barat (Oregon).

Memulai dengan instans P3 Amazon EC2 untuk Machine Learning

Untuk memulai dalam hitungan menit, pelajari lebih lanjut tentang Amazon SageMaker atau gunakan AMI AWS Deep Learning, yang telah diinstal sebelumnya dengan kerangka kerja deep learning seperti Caffe2 dan MXNet. Atau, Anda juga dapat menggunakan AMI NVIDIA dengan driver GPU dan toolkit CUDA yang diinstal sebelumnya.

Blog dan Webinar

Brent Langston
 
Brent Langston
13 Februari 2019
Webinar-thumb1

Tanggal Siaran: 19 Desember 2018

Tingkat: 200

Visi komputer berkaitan dengan bagaimana komputer dapat dilatih guna memperoleh pemahaman tingkat tinggi dari gambar atau video digital. Sejarah visi komputer berasal dari tahun 1960-an, tetapi kemajuan terbaru dalam teknologi pemrosesan telah memungkinkan aplikasi seperti navigasi kendaraan otonom. Pembicaraan teknologi ini akan meninjau berbagai langkah yang diperlukan untuk membangun, melatih, dan menggunakan model machine learning untuk visi komputer. Kami akan membandingkan dan membedakan pelatihan model visi komputer menggunakan berbagai instans Amazon EC2 dan menyoroti bagaimana penghematan waktu dapat dicapai dengan menggunakan instans P3 Amazon EC2.

Webinar-thumb2

Tanggal Siaran: 31 Juli 2018

Tingkat 200

Organisasi menangani pertanyaan kompleks secara eksponensial di bidang ilmiah, energi, teknologi tinggi, dan medis lanjutan. Machine learning (ML) memungkinkan untuk mengeksplorasi banyak skenario dengan cepat dan menghasilkan jawaban terbaik, mulai dari gambar, video, dan pengenalan suara hingga sistem kendaraan otonom serta prediksi cuaca. Untuk saintis data, peneliti, dan pengembang yang perlu mempercepat pengembangan aplikasi ML, instans P3 Amazon EC2 adalah instans komputasi GPU yang paling kuat, hemat biaya, dan serbaguna yang tersedia di cloud.

Tentang Amazon SageMaker

Klik di sini untuk mempelajari selengkapnya

Tentang Deep Learning di AWS

Klik di sini untuk mempelajari selengkapnya

Tentang Komputasi Berperforma Tinggi (HPC)

Klik di sini untuk mempelajari selengkapnya
Siap untuk memulai?
Daftar
Punya pertanyaan lainnya?
Hubungi kami