Amazon EC2 G5g 实例由 AWS Graviton2 处理器提供支持并搭载 NVIDIA T4G Tensor Core GPU,可为 Android 游戏流等图形工作负载提供 Amazon EC2 中的最佳性价比。它们是各大云平台中第一种具有 GPU 加速功能的基于 Arm 的实例。
利用 G5g 实例,游戏流媒体客户可以在基于 Arm 的实例上原生运行 Android 游戏,编码渲染的图形,通过网络将游戏流式传输到移动设备。这无需交叉编译或模拟,从而有助于减少开发工作,并将每小时的每流成本降低多达 30%。
G5g 实例也是一个适用于机器学习推理的经济高效的平台。它们非常适合部署需要访问 NVIDIA GPU 及其相关 AI 库的深度学习应用程序。
优势
Android 游戏串流可实现最高性价比
利用 G5g 实例,游戏流媒体客户可以在基于 Arm 的实例上原生运行 Android 游戏,编码渲染的图形,通过网络将游戏流式传输到移动设备,而无需交叉编译或模拟。这样可以帮助简化开发工作,加快上市速度,并将每小时的每流成本降低多达 30%。
经济实惠的机器学习推理
G5g 实例由 AWS Graviton2 处理器提供支持,配备 NVIDIA T4G Tensor Core GPU,提供经济高效的机器学习推理。这有助于降低在生产环境中运行深度学习模型的基础设施成本,并允许开发人员和企业在其应用程序中更广泛地部署深度学习功能。
增强安全性并最大化资源效率
G5g 实例由 AWS Graviton2 处理器提供支持,并依托 AWS Nitro System 构建。相较于第一代 AWS Graviton,AWS Graviton2 处理器采用全天候运行的 256 位 DRAM 加密,每个核心的加密性能速度提升了 50%。AWS Nitro System 组合了专用硬件和轻量管理程序,将主机硬件的几乎所有计算和内存资源都提供给您的实例,从而提供更好的整体性能和安全性。G5g 实例还默认支持加密的 EBS 存储卷。
广泛的软件支持
AWS Graviton 处理器(基于 64 位 Arm 架构)受多个常用 Linux 操作系统(包括 Red Hat Enterprise Linux、SUSE 和 Ubuntu)支持。由 AWS 和独立软件供应商(ISV)提供的,很多适用于安全、监控与管理、容器和 CI/CD 的热门应用程序和服务也支持基于 AWS Graviton2 的实例。
功能
由 AWS Graviton2 处理器提供支持
AWS Graviton2 处理器基于 64 位 Arm Neoverse 内核和 AWS 设计的定制硅芯片,可优化性能和降低成本。与第一代 AWS Graviton 处理器相比,AWS Graviton2 处理器提供高 7 倍的性能、多 4 倍的计算核心、快 5 倍的内存,以及大 2 倍的缓存。
配备 NVIDIA T4G Tensor Core GPU
NVIDIA T4G GPU 与 AWS Graviton2 处理器结合使用时,可增强图形表现和游戏性能。通过 RT 内核支持 NVIDIA RTX 技术,允许实时光线追踪渲染,利用具有物理引擎的精确阴影、反射和折射,提供逼真物体和环境。
基于 AWS Nitro System 构建
AWS Nitro System 是丰富的构建块集合,可将许多传统虚拟化功能卸载到专用硬件和软件中,以提供高性能、高可用性和高安全性,同时还可降低虚拟化开销。
客户
“电子游戏社区中的语音聊天对于玩家社交和互动来说是必不可少的,但它也存在伤害玩家和增加流失率的问题。Modulate 使用机器学习主动检测实时语音对话中的骚扰性内容和其他伤害性内容,为游戏玩家创造一个更安全、更具包容性的游戏场所。Amazon EC2 G5g 实例是 Modulate 提供实时、经济高效的语音审核技术能力的重要支柱,并将我们的机器学习推理成本降低了高达 70% 。”
Carter Huffman,首席技术官兼联合创始人 - Modulate
“面向汽车软件定义功能(如 ADAS、自动驾驶和信息娱乐等)的嵌入式软件开发正面临挑战。 由于需要交叉编译和重新验证硬件平台之间的软件堆栈,开发环境和边缘之间的差异减缓了创新和上市速度。通过使用在 Amazon EC2 G5g 实例上运行的 SOAFEE 框架,由基于 Arm 的 Graviton2 CPU 和 Nvidia T4G Tensor Core GPU 提供支持,汽车开发人员可以有信心在汽车和云之间实现紧密的一致或使其形成一致的环境。”
John Heinlein,汽车合作伙伴关系副总裁 - Arm 北美
“Canonical 在 AWS Marketplace 推出了 Anbox Cloud Appliance,为开发人员提供了一种在云中进行原型设计、开发和运行 Android 的简单方法。Anbox Cloud 现在支持 Amazon EC2 G5g 实例,并提供可与 Android 软件堆栈无缝配合使用的完整解决方案,可以虚拟化包括游戏在内的移动应用程序,并将其大规模安全地流式传输到移动设备。使用 Anbox Cloud 和 G5g 实例,客户可以以 720p 的清晰度和 30 fps 的帧率流式传输至多达 55 个单独的会话,与基于 x86 的同类 GPU 实例相比,成本最多可降低 20%。”
Simon Fels,Anbox 工程经理 - Canonical
“为移动设备开发软件的挑战在于,物理设备无法扩展,而模拟器无法提供相同的性能或准确度。Corellium 创建了基于 Arm 的设备的虚拟模型,并在云中基于 Arm 的服务器上运行这些模型。借助 Amazon EC2 G5g 实例,移动开发人员可以利用 Corellium 软件来创建 Arm 原生虚拟 Android 设备,将真实设备的保真度和性能与云的便利性和规模相结合。”
Chris Wade,首席技术官 - Corellium
“Genymobile 提供 Genymotion 服务,这是一种 Android 即服务解决方案,价格实惠。随着 Amazon EC2 G5g 实例的发布,我们也向前迈进了一步,为开发人员提供具有硬件加速功能的 Arm 原生环境,实现 GPU 加速渲染和视频编码。G5g 上的 Genymotion 是我们迄今为止最快、最准确的 Android 映像。最重要的是,我们的低资源占用空间实施使我们能够在单台 G5g 服务器上运行 60 多个虚拟设备实例!”
Jean-Charles Leneveu,产品经理 - Genymobile
“Tier IV 是 Autoware 的领先开发商,Autoware 是世界上第一个用于自动驾驶的开源软件。作为 CI/CD 循环的一部分,我们之前仅限于在车载 ROScube 硬件上评估 Yolo4 机器学习模型的性能。这限制了可以同时运行的模拟数量。由于 G5g 实例采用基于 Arm 的 Graviton2 处理器和 GPU,我们能够利用这些实例来扩展我们的 CI/CD 管道,同时运行更多的模拟迭代,实现云和嵌入式系统之间前所未有的一致性。”
Eiji Sekiya,工程总监,Tier IV
“在 WePlay,我们的目标是建立一个云原生、去中心化、可识别角色的虚拟世界。我们是一个云游戏平台,但不仅仅是一个云游戏平台。我们利用云游戏技术为所有移动游戏玩家带来无与伦比的社交体验。我们遇到的最大挑战是基于 Arm 的 apk 文件与当今市售的基于 x86 的支持 GPU 的实例的兼容性。将基于 Arm 的文件转换为 x86 并在 x86 实例上运行不仅成本更高,而且效果不佳。借助 g5g 实例,我们可以在没有翻译层的情况下本地运行 Android 游戏。与 g4dn 相比,我们的成本降低了大约 30%。”
Adrian Wang,首席执行官 - Ready Player One Tech
产品详细信息
实例名称 | NVIDIA T4G Tensor Core GPU | GPU 内存(GB) | vCPU | 内存(GB) | EBS 带宽(Gbps) | 网络带宽(Gbps) | 按需价格/小时* | 1 年期 ISP 的有效小时(Linux) | 3 年期 ISP 的有效小时(Linux) |
g5g.xlarge | 1 | 16 | 4 | 8 | 最高 3.5 | 最高 10 | 0.42 | 0.252 | 0.168 |
g5g.2xlarge | 1 | 16 | 8 | 16 | 最高 3.5 | 最高 10 | 0.556 | 0.334 | 0.222 |
g5g.4xlarge | 1 | 16 | 16 | 32 | 最高 3.5 | 最高 10 | 0.828 | 0.497 | 0.331 |
g5g.8xlarge | 1 | 16 | 32 | 64 | 9 | 12 | 1.372 | 0.823 | 0.549 |
g5g.16xlarge | 2 | 32 | 64 | 128 | 19 | 25 | 2.744 | 1.646 | 1.098 |
g5g.metal | 2 | 32 | 64 | 128 | 19 | 25 | 2.744 | 1.646 | 1.098 |
开始使用 G5g 实例
使用 AWS 提供的预构建 AMI
使用 Amazon Deep Learning AMI,您可以快速启动预先安装了常见深度学习框架和界面(如 TensorFlow 和 PyTorch)的 Amazon EC2 实例来运行复杂的自定义 AI 模型、试验新算法或学习新技能和技巧。有关更多信息,请访问 Amazon Deep Learning AMI 产品页面。
利用 NVIDIA NGC 目录中的 NVIDIA AI
AWS Marketplace 上的 NVIDIA Deep Learning AMI 预先配置了所有必需的 NVIDIA 驱动程序、库和依赖项,以运行来自 NVIDIA 的 GPU 优化软件中心 NGC 目录中的支持 Arm 的软件。了解有关在 AWS 上使用 NVIDIA 的 NGC 目录的更多信息。
使用 NVIDIA 驱动程序构建自定义 AMI
NVIDIA Data Center 驱动程序可为深度学习、数据科学和高性能计算(HPC)中常见的高密集计算工作负载带来最佳性能。 要了解如何在您的实例上安装这些驱动程序,请单击此处。