Lewati ke Konten Utama

Amazon EC2

Instans G5 Amazon EC2

Instans berbasis GPU performa tinggi untuk aplikasi intensif grafis dan inferensi machine learning

Mengapa Instans G5 Amazon EC2?

Instans G5 Amazon EC2 adalah instans berbasis GPU NVIDIA generasi terbaru yang dapat digunakan untuk berbagai kasus penggunaan padat grafis dan machine learning. Mereka memberikan performa hingga 3x lebih baik untuk aplikasi intensif grafis dan inferensi machine learning dan performa hingga 3,3x lebih tinggi untuk pelatihan machine learning dibandingkan dengan instans Amazon EC2 G4dn.

Pelanggan dapat menggunakan instans G5 untuk aplikasi intensif grafis seperti stasiun kerja jarak jauh, rendering video, dan game untuk menghasilkan grafis fidelitas tinggi secara waktu nyata. Dengan instans G5, pelanggan machine learning mendapatkan performa tinggi dan infrastruktur hemat biaya untuk melatih dan men-deploy model yang lebih besar dan lebih canggih untuk pemrosesan bahasa alami, penglihatan komputer, dan kasus penggunaan mesin rekomendasi.

Instans G5 menampilkan hingga 8 NVIDIA dan prosesor AMD EPYC generasi kedua. Instans ini juga mendukung hingga 192 vCPU, bandwidth jaringan hingga 100 Gbps, dan penyimpanan NVMe SSD lokal hingga 7,6 TB.

Keuntungan

Instans G5 menghadirkan performa grafis hingga 3x lebih tinggi dan performa harga hingga 40% lebih baik daripada instans G4dn. Mereka memiliki lebih banyak inti ray tracing daripada EC2 instance berbasis GPU lainnya, memiliki memori 24 GB per GPU, dan mendukung teknologi NVIDIA RTX. Ini membuatnya ideal untuk merender adegan realistis dengan lebih cepat, menjalankan stasiun kerja virtual yang kuat, dan mendukung aplikasi grafis berat dengan fidelitas yang lebih tinggi.

Instans G5 menghadirkan performa hingga 3x lebih tinggi dan performa harga hingga 40% lebih baik untuk inferensi machine learning dibandingkan dengan instans G4dn. Instans ini adalah solusi berperforma tinggi dan hemat biaya bagi pelanggan yang ingin menggunakan perpustakaan NVIDIA seperti TensorRT, CUDA, dan cuDNN untuk menjalankan aplikasi ML mereka.

Instans G5 menawarkan biaya pelatihan hingga 15% lebih rendah daripada instans P3 Amazon EC2. Mereka juga memberikan performa hingga 3,3x lebih tinggi untuk pelatihan ML dibandingkan dengan instans G4dn. Ini menjadikannya solusi hemat biaya untuk melatih model machine learning simpul tunggal yang cukup kompleks untuk pemrosesan bahasa alami, penglihatan komputer, dan kasus penggunaan mesin rekomendasi.

Instans G5 dibangun di AWS Nitro System, kombinasi perangkat keras khusus dan hypervisor ringan yang memberikan hampir semua sumber daya komputasi dan memori perangkat keras host ke instans Anda untuk keseluruhan performa dan keamanan yang lebih baik. Dengan instans G5, sistem Nitro menyediakan GPU dalam mode pass-through, memberikan performa yang sebanding dengan bare-metal.

Fitur

Instans G5 adalah yang pertama di cloud yang menampilkan GPU NVIDIA A10G Tensor Core yang menghadirkan performa tinggi untuk aplikasi machine learning dan grafis yang intensif. Setiap instans memiliki hingga 8 GPU Tensor Core A10G yang dilengkapi dengan 80 ray tracing core dan memori 24 GB per GPU. Instans ini juga menawarkan 320 NVIDIA Tensor Cores generasi ketiga yang menghadirkan hingga 250 TOPS yang menghasilkan performa tinggi untuk beban kerja ML.

Instans G5 menawarkan driver NVIDIA RTX Enterprise dan driver game kepada pelanggan tanpa biaya tambahan. Driver NVIDIA RTX Enterprise dapat digunakan untuk menyediakan stasiun kerja virtual berkualitas tinggi untuk berbagai beban kerja intensif grafis. Driver game NVIDIA menyediakan grafis tak tertandingi dan dukungan komputasi untuk pengembangan game. Instans G5 juga mendukung pustaka CUDA, cuDNN, NVENC, TensorRT, cuBLAS, OpenCL, DirectX 11/12, Vulkan 1.1, dan OpenGL 4.5.

Instans G5 hadir dengan throughput jaringan hingga 100 Gbps yang memungkinkannya mendukung kebutuhan latensi rendah dari inferensi machine learning dan aplikasi intensif grafis. Memori 24 GB per GPU bersama dengan dukungan hingga 7,6 TB penyimpanan NVMe SSD lokal memungkinkan penyimpanan lokal model besar dan set data untuk pelatihan dan inferensi machine learning performa tinggi. Instans G5 juga dapat menyimpan file video besar secara lokal yang menghasilkan peningkatan performa grafis dan kemampuan untuk merender file video yang lebih besar dan lebih kompleks.

Instans G5 dibangun di AWS Nitro System, yang merupakan kumpulan blok penyusun yang kaya yang memindahkan banyak fungsi virtualisasi tradisional ke perangkat keras dan perangkat lunak khusus untuk menghadirkan performa tinggi, ketersediaan tinggi, dan keamanan tinggi sekaligus mengurangi kelebihan virtualisasi.

Detail produk

Instance Size
GPU
GPU Memory (GiB)
vCPUs
Memory (GiB)
Storage (GB)
Network Bandwidth (Gbps)
EBS Bandwidth (Gbps)
VM GPU tunggal

g5.xlarge

g5.2xlarge

g5.4xlarge

g5.8xlarge

g5.16xlarge

1

1

1

1

1

24

24

24

24

24

4

8

16

32

64

16

32

64

128

256

1x250

1x450

1x600

1x900

1x1900

Hingga 10

Hingga 10

Hingga 25

25

25

Hingga 3,5

Hingga 3,5

8

16

16

VM Multi-GPU

g5.12xlarge

g5.24xlarge

g5.48xlarge

4

4

8

96

96

192

48

96

192

192

384

768

1x3800

1x3800

2x3800

40

50

100

16

19

19

Athenaskop

Athenascope menggunakan perkembangan mutakhir dalam penglihatan komputer dan kecerdasan buatan untuk menganalisis alur permainan dan secara otomatis memunculkan momen permainan yang paling menarik untuk membuat video sorotan bagi para pemain game dan pembuat konten. 

Untuk menciptakan pengalaman video yang mulus, analisis video latensi rendah menggunakan model CV adalah tujuan dasar bagi kami. Instans G5 Amazon EC2 menawarkan peningkatan 30% dalam aspek harga/performa dibandingkan deployment sebelumnya dengan instans G4dn.

Chris Kirmse, CEO & Pendiri, Athenascope

Missing alt text value

Netflix

Netflix adalah salah satu layanan hiburan streaming terkemuka di dunia dengan 214 juta keanggotaan berbayar di lebih dari 190 negara yang menikmati serial TV, dokumenter, dan film layar lebar dalam berbagai genre dan bahasa.  

Dengan instans Amazon EC2 G5 yang baru, kami dapat menyediakan stasiun kerja dengan grafis kelas atas yang menawarkan performa hingga 3x lebih tinggi dibandingkan dengan stasiun kerja dengan instans EC2 G4dn. Dengan instans G5, para kreator konten memiliki kebebasan untuk menciptakan konten yang lebih kompleks dan realistis bagi penonton kami.

Ben Tucker, Technical Lead, Animation Production Systems Engineering, Netflix

Missing alt text value

Varjo

Untuk aplikasi VR/XR kelas atas, instans G5 Amazon EC2 adalah sebuah terobosan. Kami dapat menjalankan aplikasi profesional dalam resolusi mata manusia khas Varjo dengan frame rate tiga kali lipat dibandingkan dengan instans G4dn yang digunakan sebelumnya, sehingga memberi pelanggan kami kualitas pengalaman yang belum pernah dilihat sebelumnya saat melakukan streaming dari server.

Urho Konttori, Founder dan Chief Technology Officer, Varjo

Missing alt text value

Memulai instans G5

DLAMI menyediakan infrastruktur dan alat bagi praktisi serta peneliti ML untuk mempercepat DL di cloud, pada semua skala. Deep Learning Containers adalah gambar Docker yang sudah diinstal sebelumnya dengan kerangka kerja DL untuk menyederhanakan deployment lingkungan ML kustom dengan memungkinkan Anda melewati proses yang rumit dalam membangun dan mengoptimalkan lingkungan dari awal.

Jika Anda lebih memilih untuk mengelola beban kerja terkontainer Anda sendiri melalui layanan orkestrasi kontainer, Anda dapat melakukan deployment instans G5 dengan Amazon EKS atau Amazon ECS.

Anda dapat menggunakan berbagai tawaran Amazon Machine Images (AMI) yang ditawarkan oleh AWS dan penawaran NVIDIA dengan driver NVIDIA yang sudah diinstal.

Anda dapat melakukan deployment model ML pada instans G5 menggunakan Amazon SageMaker, layanan yang terkelola sepenuhnya untuk membangun, melatih, dan melakukan deployment model ML.