发布于: Nov 2, 2020

我们兴奋地宣布推出基于 GPU 的下一代实例 Amazon EC2 P4d 实例,该实例为云中的机器学习 (ML) 训练和高性能计算 (HPC) 提供最佳性能,以用于自然语言处理、对象检测和分类、地震数据分析和基因组学研究等应用。P4d 实例由最新的 NVIDIA A100 Tensor 核心 GPU 提供支持,首先在云 400 Gbps 实例联网中提供,支持 Elastic Fabric Adapter (EFA) 和 NVIDIA GPUDirect RDMA(远程直接内存访问),以便能够高效扩展多节点 ML 训练和 HPC 工作负载。

P4d 实例与上一代 P3 实例相比,最高能降低 60% 的成本,将深度学习性能提高 2.5 倍以上,并将内存增加 2.5 倍,双精度浮点运算处理能力提高两倍,网络带宽提高 16 倍,以及基于 NVMe 的本地 SSD 存储提高 4 倍。

P4d 实例部署在称为 EC2 UltraClusters 的超大规模集群中,从而提供 4000 多个 NVIDIA A100 GPU、PB 级非阻塞联网基础设施、以及通过 FSx for Lustre 实现的高吞吐能力、低延迟存储。这些 EC2 UltraClusters 在世界顶级的超级计算机之列,支持日常开发人员、数据科学家和研究人员对超级计算进行普遍访问,无需任何设置或维护成本。使用这些 EC2 UltraClusters,开发人员可以将其多节点 ML 训练或 HPC 应用程序扩展到数千个 GPU 来解决最复杂的问题,或者缩减到几个实例,仅为其使用的实例付费。

Announcing Amazon EC2 P4d Instances

P4d_launch_video_thumbnail

Amazon EC2 P4d 实例构建于 AWS Nitro 系统之上,后者集 AWS 设计的硬件和软件创新于一体,可通过隔离多租户、专用网络和快速本地存储交付高效、灵活且安全的云服务。

P4d 实例现已在 AWS 美国东部(弗吉尼亚北部)和美国西部(俄勒冈)区域推出。它们有 p4d.24xl 大小可供使用,从而提供 96 个 vCPU、8 个 NVIDIA A100 GPU、1.1 TB 实例内存、8 TB 基于 NVMe 的本地 SSD 存储、400 Gbps 的 EFA 和 GPUDirect RDMA 网络带宽,以及 19 Gbps 的 EBS 突增带宽。P4d 实例可作为 Savings Plans、预留实例或 Spot 实例的一部分按需购买。

适用于 ML 和编排的常见 AWS 服务(例如 Amazon SageMaker、Amazon Elastic Kubernetes Service (EKS)、Amazon Elastic Container Service (ECS)、AWS ParallelCluster 和 AWS Batch)将在未来几周增加对 P4d 实例的支持。来自财富 500 公司到初创公司(包括 Toyota Research Institute、GE Healthcare 和 Aon PathWise)的很多客户已参加预览计划,并且正在采用 P4d 实例缩短训练时间,降低训练其 ML 模型的成本。要开始使用 Amazon EC2 P4d 实例,请访问 AWS 管理控制台AWS 命令行界面 (CLI)AWS 开发工具包。要了解更多信息,请访问产品概览页面产品详细信息页面。