SageMaker 宣布推出用于推理的 ml.p5.48xlarge 实例预览版

我们很高兴地宣布推出 ml.p5.48xlarge 实例预览版，用于在 Amazon SageMaker 上部署用于实时和异步推理的机器学习 (ML) 模型。

ml.p5.48xlarge 实例每个 NVIDIA H100 Tensor Core GPU 具有 80GB 的内存（总计 640GB）、30TB 的本地 NVMe 固态硬盘存储空间、192 个 vCPU 和 2TiB 的实例内存，旨在对问答、代码生成、视频和图像生成以及语音识别等计算密集型人工智能工作负载实现高性能机器学习推理。

ml.p5.48xlarge 实例现在可以在美国东部（弗吉尼亚州北部）和美国西部（俄勒冈州）的 SageMaker 上使用。

要获得预览版的访问权限，只需通过 AWS 服务限额申请提高限额即可。有关这些实例的定价信息，请访问我们的定价页面。有关使用 SageMaker 部署模型的更多信息，请参阅此处的概述和此处的文档。要进一步了解有关 P5 实例的一般信息，请访问 P5 产品页面。