Amazon P6e-GB200 UltraServers 现在提供 EC2 中最高的 GPU 性能
今天,Amazon 宣布全面推出由 NVIDIA GB200 NVL72 加速的 Amazon Elastic Compute Cloud (Amazon EC2) P6e-GB200 UltraServers。Amazon EC2 P6e-GB200 UltraServers 提供 EC2 中最高的基于 GPU 的人工智能训练和推理性能。它们旨在加速基础模型 (FM) 的训练和推理,包括万亿级参数规模的推理模型和代理式人工智能等新一代功能。
借助 P6e-GB200 UltraServers,客户可以在一个 NVLink 域内访问多达 72 个 Blackwell GPU,进而利用 360 千万亿次浮点运算的 FP8 计算(无稀疏性)、13.4 TB 的总高带宽内存 (HBM3e) 和高达 28.8 Tbps 的 Elastic Fabric Adapter (EFAv4) 联网速度。 P6e-GB200 UltraServers 由 AWS Nitro System 提供支持,客户可以安全可靠地将 EC2 UltraClusters 中的 AI 工作负载扩展到数万个 GPU。
P6e-GB200 UltraServers 现在可通过适用于 ML 的 Amazon EC2 容量块在达拉斯本地区域(“us-east-1-dfw-2a”)提供,该区域是美国东部(弗吉尼亚州北部)区域的扩展。P6e-GB200 UltraServers 有两种大小可供选择:u-p6e-gb200x72(NVLink 内有 72 个 GPU)和 u-p6e-gb200x36(NVLink 内有 36 个 GPU)。
要了解更多信息,请参阅 Amazon EC2 P6e-GB200 UltraServers 和 P6-B200 实例。