Amazon EC2 G6 实例

与 G4dn 实例相比，G6 实例可提供高达 2 倍的深度学习推理性能。它们由 L4 GPU 驱动，具有第四代张量内核，是高性能且具有成本效益的解决方案，适用于想要使用诸如 TensorRT、CUDA 和 cuDNN 之类的 NVIDIA 库来运行其机器学习应用程序的客户。

与 G4dn 实例相比，G6 实例可提供高达 2 倍的图形性能。它们由具有第三代 RT 内核并支持 NVIDIA RTX 技术的 L4 GPU 驱动。这使得它们非常适合用于更快速地渲染真实场景、运行功能强大的虚拟工作站和支持更高保真度和分辨率的图形密集型应用程序。Gr6 实例支持的 vCPU 与内存比率为 1:8，非常适合内存要求较高的图形工作负载。

G6 实例基于 AWS Nitro System 构建，该系统是专用硬件和轻量管理程序的组合，几乎将主机硬件的所有计算和内存资源都提供给您的实例，从而提供更好的整体性能和安全性。借助 G6 实例，Nitro 系统可以在穿透模式下预置 GPU，从而提供与裸机相当的性能。利用 G6f 实例大小，客户还可以使用低至 3 GB 的 GPU 内存（四级 GPU 的 1/8）访问分段 GPU 配置文件，从而根据单个工作负载所需的 GPU 计算和内存量进行成本优化。

G6 实例采用 NVIDIA L4 张量核心 GPU，可为图形密集型和机器学习应用程序提供高性能。每个实例具有多达 8 个 L4 Tensor Core GPU，每个 GPU 配备 24 GB 内存，或小至 GPU 1/8 的分散式 GPU，配备 3 GB GPU 内存、第三代 NVIDIA RT 内核、第四代 NVIDIA 张量内核和 DLSS 3.0 技术。NVIDIA L4 GPU 包括四个视频解码器和两个视频编码器，并具有 AV1 硬件编码功能。

G6 实例可为客户提供 NVIDIA RTX Enterprise 和游戏驱动程序，无需额外收费。NVIDIA RTX Enterprise 驱动程序可用于为各种图形密集型工作负载提供高质量虚拟工作站。NVIDIA 游戏驱动程序可为游戏开发提供无可比拟的图形和计算支持。 分数化 G6 实例提供 NVIDIA GRID 驱动程序 18.4 或更高版本。此外，G6 实例还支持 CUDA、cuDNN、NVENC、TensorRT、cuBLAS、OpenCL、DirectX 11/12、Vulkan 1.3 和 OpenGL 4.6 库。

G6 实例提供 100 Gbps 联网吞吐量，从而使它们能够满足机器学习推理和图形密集型应用程序的低延迟需求。每个 GPU 24 GB 内存以及对高达 7.52 TB 本地 NVMe SSD 存储的支持使得能够本地存储高性能机器学习训练和推理中的大型模型和数据集。此外，G6 实例还可以本地存储大型视频文件，从而提高图形性能，并且能够渲染更大、更复杂的视频文件。

G6 实例依托 AWS Nitro System 构建，该系统是丰富的构建数据块集合，可将许多传统虚拟化功能卸载到专用硬件和软件，实现高性能、高可用性和高安全性，同时还可降低虚拟化开销。