Amazon EC2 G5 인스턴스

G5 인스턴스는 G4dn 인스턴스 대비 최대 3배 더 높은 그래픽 성능과 최대 40% 더 우수한 가격 대비 성능을 제공합니다. 다른 모든 GPU 기반 EC2 인스턴스보다 많은 광선 추적 코어가 포함되어 있고 GPU당 24GB의 메모리를 제공하며 NVIDIA RTX 기술을 지원합니다. 따라서 사실적인 장면을 더 빠르게 렌더링하고 강력한 가상 워크스테이션을 실행하며 그래픽 집약적 애플리케이션을 높은 충실도로 지원하기에 적합합니다.

G5 인스턴스는 기계 학습 추론에서 G4dn 인스턴스 대비 최대 3배 더 높은 성능과 최대 40% 더 우수한 가격 대비 성능을 제공합니다. TensorRT, CUDA 및 cuDNN과 같은 NVIDIA 라이브러리를 사용하여 기계 학습 애플리케이션을 실행하고자 하는 고객에게 있어서 고도로 높은 성능을 비용 효율적으로 제공하는 솔루션입니다.

G5 인스턴스는 Amazon EC2 P3 인스턴스보다 최대 15% 저렴한 훈련 비용을 제공합니다. 또한 기계 학습 훈련에서 G4dn 인스턴스 대비 최대 3.3배 더 높은 성능을 제공합니다. 따라서 중간 정도로 복잡한 단일 노드 기계 학습 모델의 자연어 처리, 컴퓨터 비전 및 추천 엔진 사용 사례에서 비용 효율적으로 사용할 수 있는 솔루션입니다.

G5 인스턴스는 전용 하드웨어와 경량 하이퍼바이저가 결합된 AWS Nitro System을 기반으로 하므로, 호스트 하드웨어의 거의 모든 컴퓨팅 및 메모리 리소스가 인스턴스에 제공되어 전반적인 성능 및 보안이 향상됩니다. G5 인스턴스에서 Nitro 시스템은 패스스루 모드로 GPU를 프로비저닝하여 베어 메탈과 비교할 만한 성능을 제공합니다.

G5 인스턴스는 그래픽 집약적 애플리케이션 및 기계 학습 애플리케이션을 위한 고성능을 제공하는 NVIDIA A10G Tensor Core GPU를 탑재한 클라우드 최초의 인스턴스입니다. 각 인스턴스에는 80개의 광선 추적 코어와 GPU당 24GB의 메모리를 제공하는 A10G Tensor Core GPU 8개가 장착됩니다. 또한 3세대 NVIDIA Tensor Core 320개를 통해 최대 250 TOPS를 제공하여 기계 학습 워크로드를 위한 고성능을 제공합니다.

G5 인스턴스는 NVIDIA RTX Enterprise 및 게임 드라이버를 추가 비용 없이 제공합니다. NVIDIA RTX Enterprise 드라이버를 사용하면 그래픽 집약적인 다양한 워크로드를 위한 고급 가상 워크스테이션을 제공할 수 있습니다. NVIDIA 게임 드라이버는 게임 개발을 위한 독보적인 수준의 그래픽 및 컴퓨팅 지원을 제공합니다. 또한 G5 인스턴스는 CUDA, cuDNN, NVENC, TensorRT, cuBLAS, OpenCL, DirectX 11/12, Vulkan 1.1 및 OpenGL 4.5 라이브러리를 지원합니다.

G5 인스턴스는 최대 100Gbps의 네트워킹 처리량을 바탕으로 기계 학습 추론 및 그래픽 집약적 애플리케이션의 짧은 대기 시간 요구 사항을 지원합니다. GPU당 24GB의 메모리와 함께 최대 7.6TB의 로컬 NVMe SSD 스토리지 지원을 통해 대규모 모델 및 데이터 집합에 사용할 로컬 스토리지를 제공함으로써 기계 학습 훈련 및 추론의 성능을 높여줍니다. 또한 G5 인스턴스는 대규모 비디오 파일을 로컬에 저장하여 그래픽 성능과 더 크고 복잡한 비디오 파일의 렌더링 기능을 개선합니다.

G5 인스턴스는 기존 가상화 기능의 대부분을 전용 하드웨어 및 소프트웨어로 오프로드하여 고성능, 고가용성, 우수한 보안을 제공하는 동시에 가상화 오버헤드를 줄이는 풍부한 구성 요소의 모음인 AWS Nitro System을 기반으로 구축되었습니다.