Amazon EC2 P5 实例现已在 AWS Secret 云中推出

发布于: 2024年8月15日

由 NVIDIA H100 Tensor Core GPU 提供支持的 Amazon Elastic Compute Cloud (Amazon EC2) P5 实例现已在 AWS Secret 云中推出。与上一代基于 GPU 的 EC2 实例相比，Amazon EC2 P5 实例可帮助您将问题解决时间缩短多达 4 倍，并将训练机器学习模型的成本降低高达 40%。

您可以使用 P5 实例来训练和部署日益复杂的大语言模型 (LLM) 和扩散模型，为要求最苛刻的生成式人工智能应用程序提供支持。这包括问题解答、代码生成、视频和图像生成、语音识别等。您还可以使用 P5 实例在药物发现、地震分析、天气预报和财务建模领域大规模部署要求苛刻的 HPC 应用程序。

与上一代基于 GPU 的实例相比，P5 实例由最新的 NVIDIA H100 Tensor Core GPU 提供支持，CPU 性能提高了 2 倍，系统内存提高了 2 倍，本地存储空间增加了 4 倍。它们为分布式训练和紧密耦合的 HPC 工作负载提供市场领先的横向扩展功能，使用第二代 Elastic Fabric Adapter (EFA) 技术实现了高达 3,200Gbps 的网络连接。 

本文的内容仅供参考。有关 AWS Secret 云中 Amazon EC2 P5 实例的更多信息，请联系我们。