- Amazon EC2›
- Tipe instans›
- Instans G5
Instans G5 Amazon EC2
Instans berbasis GPU performa tinggi untuk aplikasi intensif grafis dan inferensi machine learning
Mengapa Instans G5 Amazon EC2?
Instans G5 Amazon EC2 adalah instans berbasis GPU NVIDIA generasi terbaru yang dapat digunakan untuk berbagai kasus penggunaan padat grafis dan machine learning. Mereka memberikan performa hingga 3x lebih baik untuk aplikasi intensif grafis dan inferensi machine learning dan performa hingga 3,3x lebih tinggi untuk pelatihan machine learning dibandingkan dengan instans Amazon EC2 G4dn.
Pelanggan dapat menggunakan instans G5 untuk aplikasi intensif grafis seperti stasiun kerja jarak jauh, rendering video, dan game untuk menghasilkan grafis fidelitas tinggi secara waktu nyata. Dengan instans G5, pelanggan machine learning mendapatkan performa tinggi dan infrastruktur hemat biaya untuk melatih dan men-deploy model yang lebih besar dan lebih canggih untuk pemrosesan bahasa alami, penglihatan komputer, dan kasus penggunaan mesin rekomendasi.
Instans G5 menampilkan hingga 8 NVIDIA dan prosesor AMD EPYC generasi kedua. Instans ini juga mendukung hingga 192 vCPU, bandwidth jaringan hingga 100 Gbps, dan penyimpanan NVMe SSD lokal hingga 7,6 TB.
Keuntungan
Instans G5 menghadirkan performa grafis hingga 3x lebih tinggi dan performa harga hingga 40% lebih baik daripada instans G4dn. Mereka memiliki lebih banyak inti ray tracing daripada EC2 instance berbasis GPU lainnya, memiliki memori 24 GB per GPU, dan mendukung teknologi NVIDIA RTX. Ini membuatnya ideal untuk merender adegan realistis dengan lebih cepat, menjalankan stasiun kerja virtual yang kuat, dan mendukung aplikasi grafis berat dengan fidelitas yang lebih tinggi.
Instans G5 menghadirkan performa hingga 3x lebih tinggi dan performa harga hingga 40% lebih baik untuk inferensi machine learning dibandingkan dengan instans G4dn. Instans ini adalah solusi berperforma tinggi dan hemat biaya bagi pelanggan yang ingin menggunakan perpustakaan NVIDIA seperti TensorRT, CUDA, dan cuDNN untuk menjalankan aplikasi ML mereka.
Instans G5 menawarkan biaya pelatihan hingga 15% lebih rendah daripada instans P3 Amazon EC2. Mereka juga memberikan performa hingga 3,3x lebih tinggi untuk pelatihan ML dibandingkan dengan instans G4dn. Ini menjadikannya solusi hemat biaya untuk melatih model machine learning simpul tunggal yang cukup kompleks untuk pemrosesan bahasa alami, penglihatan komputer, dan kasus penggunaan mesin rekomendasi.
Instans G5 dibangun di AWS Nitro System, kombinasi perangkat keras khusus dan hypervisor ringan yang memberikan hampir semua sumber daya komputasi dan memori perangkat keras host ke instans Anda untuk keseluruhan performa dan keamanan yang lebih baik. Dengan instans G5, sistem Nitro menyediakan GPU dalam mode pass-through, memberikan performa yang sebanding dengan bare-metal.
Fitur
Instans G5 adalah yang pertama di cloud yang menampilkan GPU NVIDIA A10G Tensor Core yang menghadirkan performa tinggi untuk aplikasi machine learning dan grafis yang intensif. Setiap instans memiliki hingga 8 GPU Tensor Core A10G yang dilengkapi dengan 80 ray tracing core dan memori 24 GB per GPU. Instans ini juga menawarkan 320 NVIDIA Tensor Cores generasi ketiga yang menghadirkan hingga 250 TOPS yang menghasilkan performa tinggi untuk beban kerja ML.
Instans G5 menawarkan driver NVIDIA RTX Enterprise dan driver game kepada pelanggan tanpa biaya tambahan. Driver NVIDIA RTX Enterprise dapat digunakan untuk menyediakan stasiun kerja virtual berkualitas tinggi untuk berbagai beban kerja intensif grafis. Driver game NVIDIA menyediakan grafis tak tertandingi dan dukungan komputasi untuk pengembangan game. Instans G5 juga mendukung pustaka CUDA, cuDNN, NVENC, TensorRT, cuBLAS, OpenCL, DirectX 11/12, Vulkan 1.1, dan OpenGL 4.5.
Instans G5 hadir dengan throughput jaringan hingga 100 Gbps yang memungkinkannya mendukung kebutuhan latensi rendah dari inferensi machine learning dan aplikasi intensif grafis. Memori 24 GB per GPU bersama dengan dukungan hingga 7,6 TB penyimpanan NVMe SSD lokal memungkinkan penyimpanan lokal model besar dan set data untuk pelatihan dan inferensi machine learning performa tinggi. Instans G5 juga dapat menyimpan file video besar secara lokal yang menghasilkan peningkatan performa grafis dan kemampuan untuk merender file video yang lebih besar dan lebih kompleks.
Instans G5 dibangun di AWS Nitro System, yang merupakan kumpulan blok penyusun yang kaya yang memindahkan banyak fungsi virtualisasi tradisional ke perangkat keras dan perangkat lunak khusus untuk menghadirkan performa tinggi, ketersediaan tinggi, dan keamanan tinggi sekaligus mengurangi kelebihan virtualisasi.
Detail produk
|
|
Instance Size
|
GPU
|
GPU Memory (GiB)
|
vCPUs
|
Memory (GiB)
|
Storage (GB)
|
Network Bandwidth (Gbps)
|
EBS Bandwidth (Gbps)
|
||||||||||||||||||||||||||||||||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
|
VM GPU tunggal
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||||||||||||
|
VM Multi-GPU
|
|
|
|
|
|
|
|
|
Athenaskop
Athenascope menggunakan perkembangan mutakhir dalam penglihatan komputer dan kecerdasan buatan untuk menganalisis alur permainan dan secara otomatis memunculkan momen permainan yang paling menarik untuk membuat video sorotan bagi para pemain game dan pembuat konten.
Untuk menciptakan pengalaman video yang mulus, analisis video latensi rendah menggunakan model CV adalah tujuan dasar bagi kami. Instans G5 Amazon EC2 menawarkan peningkatan 30% dalam aspek harga/performa dibandingkan deployment sebelumnya dengan instans G4dn.
Chris Kirmse, CEO & Pendiri, Athenascope
Netflix
Netflix adalah salah satu layanan hiburan streaming terkemuka di dunia dengan 214 juta keanggotaan berbayar di lebih dari 190 negara yang menikmati serial TV, dokumenter, dan film layar lebar dalam berbagai genre dan bahasa.
Dengan instans Amazon EC2 G5 yang baru, kami dapat menyediakan stasiun kerja dengan grafis kelas atas yang menawarkan performa hingga 3x lebih tinggi dibandingkan dengan stasiun kerja dengan instans EC2 G4dn. Dengan instans G5, para kreator konten memiliki kebebasan untuk menciptakan konten yang lebih kompleks dan realistis bagi penonton kami.
Ben Tucker, Technical Lead, Animation Production Systems Engineering, Netflix
Varjo
Untuk aplikasi VR/XR kelas atas, instans G5 Amazon EC2 adalah sebuah terobosan. Kami dapat menjalankan aplikasi profesional dalam resolusi mata manusia khas Varjo dengan frame rate tiga kali lipat dibandingkan dengan instans G4dn yang digunakan sebelumnya, sehingga memberi pelanggan kami kualitas pengalaman yang belum pernah dilihat sebelumnya saat melakukan streaming dari server.
Urho Konttori, Founder dan Chief Technology Officer, Varjo
Memulai instans G5
DLAMI menyediakan infrastruktur dan alat bagi praktisi serta peneliti ML untuk mempercepat DL di cloud, pada semua skala. Deep Learning Containers adalah gambar Docker yang sudah diinstal sebelumnya dengan kerangka kerja DL untuk menyederhanakan deployment lingkungan ML kustom dengan memungkinkan Anda melewati proses yang rumit dalam membangun dan mengoptimalkan lingkungan dari awal.
Jika Anda lebih memilih untuk mengelola beban kerja terkontainer Anda sendiri melalui layanan orkestrasi kontainer, Anda dapat melakukan deployment instans G5 dengan Amazon EKS atau Amazon ECS.
Anda dapat menggunakan berbagai tawaran Amazon Machine Images (AMI) yang ditawarkan oleh AWS dan penawaran NVIDIA dengan driver NVIDIA yang sudah diinstal.
Anda dapat melakukan deployment model ML pada instans G5 menggunakan Amazon SageMaker, layanan yang terkelola sepenuhnya untuk membangun, melatih, dan melakukan deployment model ML.