Amazon SageMaker HyperPod 现在支持竞价型实例

发布于: 2025年11月24日

Amazon SageMaker HyperPod 现在支持竞价型实例，与 HyperPod 上的按需型实例相比，可以将 GPU 计算成本降低最多 90%。随着人工智能工作负载规模的扩大，优化基础设施成本变得越来越重要。SageMaker HyperPod 与竞价型实例的集成解决了这个问题，它让客户能够自动利用备用 EC2 容量并获得大幅折扣，同时为客户提供与 HyperPod 相同的托管式人工智能体验。 

借助竞价型实例，组织能够以经济高效的方式大规模运行具有容错能力的工作负载。您可以将竞价型实例与按需型实例结合使用，在优化成本的同时确保可用性。这项功能适用于 HyperPod EKS 集群，并与 Karpenter 集成以实现智能自动扩缩，能够自动发现可用的竞价型实例并处理实例中断情况。

您可以在通过 CreateCluster API 或 AWS 管理控制台创建实例组时启用竞价型实例。这项功能支持 HyperPod 上提供的所有实例类型，包括 CPU 和 GPU。容量可用性取决于 EC2 的可用容量，并因区域和实例类型而异。目前提供 SageMaker HyperPod 的所有区域均支持竞价型实例。要了解更多信息，请参阅文档。