发布于: Sep 28, 2023

Amazon EC2 P5 实例现已在美国东部(俄亥俄州)区域推出,这些实例可在 Amazon EC2 中为深度学习和高性能计算 (HPC) 应用程序提供最高的性能。

您可以使用 P5 实例来训练和部署日益复杂的大型语言模型 (LLM) 和扩散模型,为要求最苛刻的生成式人工智能应用程序提供支持。这包括问题解答、代码生成、视频和图像生成、语音识别等。您还可以使用 P5 实例在药物发现、地震分析、天气预报和财务建模领域大规模部署要求苛刻的 HPC 应用程序。

与上一代基于 GPU 的实例相比,P5 实例由最新的 NVIDIA H100 Tensor Core GPU 提供支持,CPU 性能提高了 2 倍,系统内存提高了 2 倍,本地存储空间增加了 4 倍。它们为分布式训练和紧密耦合的 HPC 工作负载提供市场领先的横向扩展功能,使用第二代 Elastic Fabric Adapter (EFA) 技术实现了高达 3,200Gbps 的网络连接。为了满足客户对低延迟和大规模的需求,P5 实例部署在 Amazon EC2 UltraClusters 中,在多达 20,000 个 H100 GPU 中提供 PB 级的非阻塞互连。

通过此次区域扩张,Amazon EC2 P5 实例现已在美国东部(弗吉尼亚州北部)、美国东部(俄亥俄州)和美国西部(俄勒冈州)区域推出。

要了解有关 P5 实例的更多信息,请参阅 Amazon EC2 P5 实例。