发布于: Feb 28, 2018

现在,您可以通过 Amazon SageMaker 控制台AWS Auto Scaling APIAWS 开发工具包配置终端节点的 Auto Scaling,简化容量管理工作。借助 Amazon SageMaker,您可以为每个终端节点指定实例数量和类型,以提供推理所需的扩展。如果推理容量发生变化,您可以更改为每个终端节点提供支持的实例的数量和/或类型,以适应相关变化。使用 Auto Scaling 后,您可以自动调整推理容量,以便以较低的成本维持预期性能。在 Amazon SageMaker 控制台中,您可以配置终端节点的实例数下限和上限,然后选择每个实例的吞吐量。Amazon SageMaker 会通过监控部署的模型来自动调整实例数量,确保吞吐量维持在所需的水平,以响应应用程序流量变化。如此一来,便可以更加轻松地管理生产环境中的模型,并有助于降低所部署模型的成本。

Auto Scaling in Amazon SageMaker 面向以下 AWS 区域推出:美国东部 (弗吉尼亚北部和俄亥俄)、欧洲 (爱尔兰) 和美国西部 (俄勒冈)。参阅相关文档,了解与自动扩展 Amazon SageMaker 中的模型有关的更多详细信息。