Amazon EC2 G5 Bulut Sunucuları

G5 bulut sunucuları, G4dn bulut sunucularına göre 3 kata kadar daha yüksek grafik performansı ve %40'a kadar daha iyi fiyat performansı sunar. Diğer GPU tabanlı EC2 bulut sunucularından daha fazla ışın izleme çekirdeğine sahiptir, GPU başına 24 GB belleğe sahiptir ve NVIDIA RTX teknolojisini destekler. Bu da onu gerçekçi sahneleri daha hızlı oluşturmak, güçlü sanal iş istasyonlarını çalıştırmak ve grafik ağırlıklı uygulamaları daha yüksek doğrulukta desteklemek için ideal yapar.

G5 bulut sunucuları, G4dn bulut sunucularına kıyasla makine öğrenimi çıkarımı için 3 kata kadar daha yüksek performans ve %40'a kadar daha iyi fiyat performansı sunar. Makine öğrenimi uygulamalarını çalıştırmak üzere TensorRT, CUDA ve cuDNN gibi NVIDIA kitaplıklarını kullanmak isteyen müşteriler için yüksek performanslı ve uygun maliyetli bir çözümdür.

G5 bulut sunucuları, Amazon EC2 P3 bulut sunucularına göre %15'e kadar daha düşük eğitim maliyeti sunar. Ayrıca ML eğitimi için G4dn bulut sunucularına kıyasla 3,3 kata kadar daha yüksek performans sunarlar. Bu da doğal dil işleme, bilgisayar görüşü ve tavsiye motoru kullanım örnekleri için orta derecede karmaşık ve tek düğümlü makine öğrenimi modellerini eğitmek için onları uygun maliyetli bir çözüm haline getirir.

G5 bulut sunucuları daha iyi bir genel performans ve güvenlik için ana bilgisayar donanımının neredeyse tüm işlem ve bellek kaynaklarını bulut sunucularınıza ileten tahsis edilmiş donanımın ve basit bir hiper yöneticinin birleşimi olan AWS Nitro System’i kullanmaktadır. G5 bulut sunucularında, Nitro sistemi GPU'ları geçiş modunda sağlayarak çıplak metale benzer performans sağlar.

G5 bulut sunucuları, grafik yoğunluklu ve makine öğrenimi uygulamaları için yüksek performans sağlayan NVIDIA A10G Tensor Core GPU'ları içeren bulutta ilk örneklerdir. Her bulut sunucusu, 80 ışın izleme çekirdeği ve GPU başına 24 GB bellek ile birlikte gelen 8 adede kadar A10G Tensor Core GPU içerir. Ayrıca, ML iş yükleri için yüksek performans sağlayan 250'ye kadar TOPS sağlayan 320 adet üçüncü nesil NVIDIA Tensor Core sunarlar.

G5 bulut sunucuları, müşterilere NVIDIA RTX Enterprise ve oyun sürücülerini ek ücret ödemeden sunar. NVIDIA RTX Enterprise sürücüleri, çok çeşitli grafik yoğun iş yükleri için yüksek kaliteli sanal iş istasyonları sağlamak için kullanılabilir. NVIDIA oyun sürücüleri, oyun geliştirme için benzersiz grafikler ve bilgi işlem desteği sağlar. G5 bulut sunucuları ayrıca CUDA, cuDNN, NVENC, TensorRT, cuBLAS, OpenCL, DirectX 11/12, Vulkan 1.1 ve OpenGL 4.5 kitaplıklarını destekler.

G5 bulut sunucuları, makine öğrenimi çıkarımlarının ve grafik yoğunluklu uygulamaların düşük gecikme süresi gereksinimlerini desteklemelerini sağlayan 100 Gbps'ye kadar ağ aktarımı ile birlikte gelir. GPU başına 24 GB bellek ve 7,6 TB'ye kadar yerel NVMe SSD depolama desteği, yüksek performanslı makine öğrenimi eğitimi ve çıkarımı için büyük modellerin ve veri kümelerinin yerel olarak depolanmasını sağlar. G5 bulut sunucuları ayrıca büyük video dosyalarını yerel olarak depolayabilir, bu da grafik performansının artmasına, daha büyük ve daha karmaşık video dosyalarını oluşturma yeteneğine yol açar.

G5 bulut sunucuları; yüksek performans, yüksek erişilebilirlik ve yüksek güvenlik sunarken sanallaştırma maliyetlerini azaltmak için özel donanım ve yazılımlara klasik sanallaştırma işlevlerinin birçoğunu sunan zengin bir yapı taşı koleksiyonu olan AWS Nitro System üzerinde geliştirilmiştir.