- Amazon EC2›
- Tipe instans›
- Instans DL1
Mengapa Instans DL1 Amazon EC2?
Instans DL1 Amazon EC2 yang didukung oleh akselerator Gaudi dari Habana Labs (sebuah perusahaan Intel), memberikan model deep learning berbiaya rendah untuk pemrosesan bahasa alami, deteksi objek, dan kasus penggunaan pengenalan gambar. Instans DL1 memberikan performa harga hingga 40% lebih baik untuk melatih model deep learning dibandingkan dengan instans EC2 berbasis GPU generasi saat ini.
Instans DL1 Amazon EC2 memiliki 8 akselerator Gaudi dengan memori bandwidth tinggi (HBM) 32 GiB per akselerator, memori sistem sebesar 768 GiB, prosesor Intel Xeon Scalable generasi kedua khusus, throughput jaringan sebesar 400 Gbps, dan penyimpanan NVMe lokal sebesar 4 TB.
Instans DL1 menyertakan SDK Habana SynapseAI®, yang terintegrasi dengan kerangka kerja machine learning terkemuka seperti TensorFlow dan PyTorch.
Anda dapat mulai menggunakan instans DL1 dengan mudah, menggunakan AMI Deep Learning AWS atau AWS Deep Learning Containers, atau Amazon EKS dan ECS untuk aplikasi terkontainer. Dukungan untuk instans DL1 di Amazon SageMaker akan segera hadir.
Video gambaran umum instans DL1 Amazon EC2 baru
Keuntungan
-
Instans DL1 memberikan performa harga hingga 40% lebih baik untuk melatih model deep learning dibandingkan dengan instans EC2 berbasis GPU terbaru kami. Instans ini memiliki akselerator Gaudi yang dibuat dengan tujuan untuk melatih model deep learning. Anda juga dapat mendapatkan biaya lebih lanjut menggunakan Savings Plan EC2 untuk mengurangi biaya pelatihan model deep learning Anda secara signifikan.
-
Developer di seluruh level keahlian dapat mulai menggunakan instans DL1 dengan mudah. Mereka dapat terus menggunakan layanan manajemen alur kerja mereka sendiri dengan menggunakan AMI AWS DL dan Kontainer DL untuk mulai menggunakan instans DL1. Pengguna lanjutan juga dapat membangun kernel khusus untuk mengoptimalkan performa model mereka menggunakan Tensor Processing Core (TPC). (TPC). Menggunakan alat Habana SynapseAI®, mereka dapat secara lancar memigrasikan model yang ada saat ini yang berjalan di instans berbasis GPU atau CPU ke instans DL1 dengan perubahan kode minimal.
-
Instans DL1 mendukung kerangka kerja ML terkemuka seperti TensorFlow dan PyTorch, yang memungkinkan Anda terus menggunakan alur kerja ML yang Anda sukai. Anda juga dapat mengakses model yang dioptimalkan seperti Mask R-CNN untuk deteksi objek dan BERT untuk pemrosesan bahasa alami di repositori GitHub Habana agar dapat membangun, melatih, dan men-deploy model Anda dengan cepat. Pustaka kernel Tensor Processing Core (TPC) kaya dari SynapseAI mendukung berbagai operator dan beberapa tipe data untuk beragam kebutuhan model dan performa.
Fitur
-
Instans DL1 didukung oleh akselerator Gaudi dari Habana Labs (sebuah perusahaan Intel) yang memiliki delapan TPC yang dapat diprogram sepenuhnya dan memori bandwidth tinggi sebesar 32GiB per akselerator. Instans ini memiliki arsitektur komputasi heterogen untuk memaksimalkan efisiensi pelatihan dan mesin terpusat yang dapat dikonfigurasi untuk operasi matematika matriks. Mereka juga memiliki integrasi native khusus industri berisi 10 port Ethernet 100 Gigabit pada setiap akselerator Gaudi untuk komunikasi latensi rendah di antara akselerator.
-
SDK SynapseAI® SDK terdiri dari pengompilasi gambar dan waktu aktif, pustaka kernel TPC, firmware, driver, dan alat. SDK ini terintegrasi dengan kerangka kerja terkemuka seperti TensorFlow dan PyTorch. Pustaka komunikasinya membantu dalam menskalakan ke atas dengan cepat ke beberapa akselerator menggunakan operasi yang sama yang Anda gunakan untuk instans berbasis GPU saat ini. Penskalaan determinisme ini menghasilkan pemanfaatan yang lebih tinggi dan efisiensi yang meningkat di berbagai topologi jaringan neural. Dengan menggunakan alat SynapseAI®, Anda dapat dengan lancar memigrasikan dan menjalankan model yang sudah ada ke instans DL1 dengan perubahan kode minimal.
-
Instans DL1 menawarkan throughput jaringan sebesar 400 Gbps dan konektivitas Amazon Elastic Fabric Adapter (EFA) dan Amazon Elastic Network Adapter (ENA) untuk aplikasi yang memiliki akses ke jaringan berkecepatan tinggi. Untuk akses cepat ke set data besar, instans DL1 juga menyertakan penyimpanan NVMe lokal sebesar 4 TB dan memberikan throughput baca sebesar 8 GB/detik.
Instans DL1 dibangun di AWS Nitro System, yang merupakan kumpulan blok bangunan yang kaya yang memindahkan banyak fungsi virtualisasi tradisional ke perangkat keras dan perangkat lunak khusus untuk memberikan performa, ketersediaan, serta keamanan yang tinggi sekaligus mengurangi overhead virtualisasi.
Detail produk
|
Ukuran Instans
|
vCPU
|
Memori Instans (GiB)
|
Akselerator Gaudi
|
Bandwidth Jaringan (Gbps)
|
Akselerator Peer-to-Peer Dua Arah (Gbps)
|
Penyimpanan Instans (GB)
|
Bandwidth EBS (Gbps)
|
Berdasarkan Permintaan (Harga/Jam)
|
Instans Cadangan 1 tahun Efektif Setiap Jam
|
Instans Terpesan 3 Tahun Efektif Per Jam*
|
|---|---|---|---|---|---|---|---|---|---|---|
|
dl1.24xlarge
|
96 |
768 |
8 |
400 |
100 |
4 x 1000
|
19 |
13,11 USD |
7,87 USD |
5,24 USD |
*Harga yang ditampilkan adalah harga untuk AS Timur (Virginia Utara) dan AS Barat (Oregon).
Seagate
Seagate Technology telah menjadi pemimpin global yang menawarkan solusi penyimpanan data dan manajemen selama lebih dari 40 tahun. Insinyur ilmu data dan pembelajaran mesin Seagate telah membangun sistem deteksi cacat deep learning (DL) canggih dan menerapkannya secara global di seluruh fasilitas manufaktur perusahaan. Dalam proyek bukti konsep terbaru, Gaudi Habana melebihi target performa untuk melatih salah satu model segmentasi semantik DL yang saat ini digunakan dalam produksi Seagate.
“Kami berharap keunggulan kinerja harga yang signifikan dari instans Amazon EC2 DL1, yang didukung oleh akselerator Habana Gaudi, dapat membuat tambahan yang menarik di masa depan untuk cluster komputasi AWS. Dengan Habana Labs yang terus berkembang dan memungkinkan cakupan operator yang lebih luas, terdapat potensi untuk memperluas kasus penggunaan korporasi, dan dengan demikian akan memperoleh penghematan biaya tambahan."
Leidos
Leidos diakui sebagai 10 Teratas penyedia IT Kesehatan yang memberikan berbagai solusi yang dapat disesuaikan dan diskalakan untuk rumah sakit serta sistem kesehatan, organisasi biomedis, dan setiap lembaga federal AS yang berfokus pada kesehatan.
“Salah satu dari banyak teknologi yang kami aktifkan untuk memajukan perawatan kesehatan saat ini adalah penggunaan pembelajaran mesin dan pembelajaran mendalam untuk diagnosis penyakit berdasarkan data pencitraan medis. Set data masif kami memerlukan pelatihan yang tepat waktu dan efisien untuk membantu peneliti memecahkan misteri dalam bidang medis yang paling mendesak. Dengan memenuhi kebutuhan Leidos dan pelanggannya terkait pelatihan yang cepat, mudah, dan hemat biaya untuk model deep learning, kami bersemangat untuk memulai perjalanan ini bersama Intel dan AWS untuk menggunakan instans DL1 Amazon EC2 berdasarkan prosesor AI Gaudi Habana. Menggunakan instance DL1, kami mengharapkan peningkatan kecepatan dan efisiensi pelatihan model, dengan pengurangan risiko dan biaya penelitian dan pengembangan berikutnya. “
Intel
Intel telah menciptakan teknologi Pelacakan Atlet 3D yang menganalisis video atlet yang sedang beraksi secara waktu nyata untuk menginformasikan proses pelatihan performa dan meningkatkan pengalaman audiens selama kompetisi.
“Melatih model kami pada instans Amazon EC2 DL1, yang didukung oleh akselerator Gaudi dari Habana Labs, akan memungkinkan kami memproses ribuan video secara akurat dan andal serta menghasilkan data kinerja terkait, sekaligus menurunkan biaya pelatihan. Dengan instans DL1, kami sekarang dapat berlatih dengan kecepatan dan biaya yang diperlukan untuk melayani atlet, tim, dan penyiar dari semua tingkatan secara produktif di berbagai olahraga. “
RisikoBahan bakar
RiskFuel memberikan penilaian real-time dan sensitivitas risiko kepada perusahaan yang mengelola portofolio keuangan, membantu mereka meningkatkan akurasi dan kinerja perdagangan.
“Dua faktor menarik kami ke instans Amazon EC2 DL1 berdasarkan akselerator AI Habana Gaudi. Pertama, kami ingin memastikan klien perbankan dan asuransi kami dapat menjalankan model Riskfuel yang memanfaatkan perangkat keras terbaru. Untungnya, kami melihat bahwa memigrasikan model kami ke instans DL1 ini menjadi simpel dan mudah. Sungguh, kami melakukannya hanya dengan mengubah beberapa baris kode. Kedua, biaya pelatihan adalah komponen besar dari pengeluaran kami, dan janji peningkatan kinerja harga hingga 40% menawarkan manfaat yang berpotensi besar bagi laba kami. “
Fractal
Fractal adalah pemimpin global dalam kecerdasan buatan dan analitik, yang mendukung keputusan dalam perusahaan Fortune 500.
“AI dan pembelajaran mendalam adalah inti dari kemampuan Machine Vision kami, memungkinkan pelanggan membuat keputusan yang lebih baik di seluruh industri yang kami layani. Untuk meningkatkan akurasi, set data menjadi lebih besar dan lebih rumit, yang memerlukan model yang lebih besar dan lebih kompleks. Hal ini mendorong kebutuhan performa harga komputasi yang ditingkatkan. Instans DL1 Amazon EC2 baru menjanjikan pelatihan berbiaya lebih rendah secara signifikan dibanding instans EC2 berbasis GPU. Kami berharap ini membuat pelatihan model AI di cloud jauh lebih kompetitif dan dapat diakses daripada sebelumnya untuk beragam klien. “
Memulai
AWS Deep Learning AMIs (DLAMI) dan AWS Deep Learning Containers (DLC)
Amazon Elastic Kubernetes Service (EKS) atau Elastic Container Service (ECS)
Apakah Anda sudah menemukan yang Anda cari?
Beri tahu kami agar kami dapat meningkatkan kualitas konten di halaman kami