Amazon EC2 G5 实例

与 G4dn 实例相比，G5 实例可提供高达 3 倍的图形性能，并且性价比提高了高达 40%。与其他任何基于 GPU 的 EC2 实例相比，它们配备了更多的光线跟踪内核，每个 GPU 具有 24 GB 内存，并且支持 NVIDIA RTX 技术。这使得它们非常适合于更快速地渲染真实场景、运行功能强大的虚拟工作站和支持更高保真度的图形密集型应用程序。

与 G4dn 实例相比，G5 实例可提供高达 3 倍的性能，并且将机器学习推理的性价比提高了高达 40%。它们是一款高性能且成本高效的解决方案，适用于想要使用诸如 TensorRT、CUDA 和 cuDNN 之类的 NVIDIA 库来运行其机器学习应用程序的客户。

较之 Amazon EC2 P3 实例，G5 实例可将训练成本降低高达 15%。此外，与 G4dn 实例相比，它们还可以提供高达 3.3 倍的机器学习培训性能。这使得它们成为训练适用于自然语言处理、计算机视觉和推荐引擎使用案例的中等复杂和单节点机器学习模型的成本高效解决方案。

G5 实例基于 AWS Nitro 系统构建，该系统是专用硬件和轻量管理程序的组合，几乎将主机硬件的所有计算和内存资源都提供给您的实例，从而提供更好的整体性能和安全性。借助 G5 实例，Nitro 系统可以在穿透模式下预置 GPU，从而提供与裸机相当的性能。

G5 实例是云中首款配备 NVIDIA A10G Tensor Core GPU 的实例，可提供适用于图形密集型和机器学习应用程序的高性能。每个实例配备高达 8 个 A10G Tensor Core GPU，包含 80 个光纤跟踪内核且每个 GPU 包含 24 GB 内存。此外，它们还具有 320 个第三代 NVIDIA Tensor 内核，从而提供适合于机器学习工作负载的 250 TOPS 高性能。

G5 实例可为客户提供 NVIDIA RTX Enterprise 和游戏驱动程序，无需额外收费。NVIDIA RTX Enterprise 驱动程序可用于为各种图形密集型工作负载提供高质量虚拟工作站。NVIDIA 游戏驱动程序可为游戏开发提供无可比拟的图形和计算支持。此外，G5 实例还支持 CUDA、cuDNN、NVENC、TensorRT、cuBLAS、OpenCL、DirectX 11/12、Vulkan 1.1 和 OpenGL 4.5 库。

G5 实例提供 100 Gbps 联网吞吐量，从而使它们能够满足机器学习推理和图形密集型应用程序的低延迟需求。每个 GPU 24 GB 内存以及对高达 7.6 TB 本地 NVMe SSD 存储的支持使得能够本地存储高性能机器学习训练和推理中的大型模型和数据集。此外，G5 实例还可以本地存储大型视频文件，从而提高图形性能，并且能够渲染更大、更复杂的视频文件。

G5 实例依托 AWS Nitro 系统构建，该系统是丰富的构建数据块集合，可将许多传统虚拟化功能卸载到专用硬件和软件，实现高性能、高可用性和高安全性，同时还可降低虚拟化开销。