亚马逊AWS官方博客
通过实例降价和 Amazon SageMaker Savings Plans 降低 Machine Learning 成本
在 AWS re:Invent 2017 上推出的 Amazon SageMaker 是一项完全托管式服务,已帮助成千上万的客户在 AWS 上快速构建和部署机器学习 (ML) 工作流。
为了帮助他们发挥最大的 ML 优势,我们添加了一系列成本优化型服务和功能,例如托管 Spot 训练、多模型终端节点、Amazon Elastic Inference 和 AWS Inferentia。事实上,客户发现,与其他基于云的选项(如自行管理的 Amazon EC2 和 AWS 托管的 Amazon EKS)相比,SageMaker 三年的总拥有成本 (TCO) 要低 54%。
我们最喜欢的是通过节省资金让客户满意,因此我很高兴地宣布:
- Amazon SageMaker 中 CPU 和 GPU 实例的价格降低,
- 推出适用于 Amazon SageMaker 的 Savings Plans。
降低 Amazon SageMaker 中的实例价格
从今天起,我们将 Amazon SageMaker 中的多个实例系列的价格下降高达 14.2%。
这适用于:
- 以下实例系列:ml.t2、ml.t3、ml.m4、ml.m5、ml.m5d、ml.c4、ml.c5、ml.c5d、ml.c5n、ml.r5、ml.r5d、ml.g4dn 和 ml.inf1。
- 所有基于实例的工作负载:笔记本实例、Amazon SageMaker Studio 实例、训练实例、批量转换实例、实时终端节点实例、Amazon SageMaker Data Wrangler 实例、Amazon SageMaker Processing 实例。
详细的定价信息可在 Amazon SageMaker 定价页面上找到。
成本降低备受赞誉,许多客户也希望我们能够以简单灵活的方式优化所有与实例相关的活动(从数据准备到模型训练再到模型部署)的 SageMaker 成本。事实上,由于许多客户已经在使用 Savings Plans 优化其计算成本,他们表示希望对 Amazon SageMaker 成本采取同样的优化措施。
隆重推出 SageMaker Savings Plans
适用于 AWS 计算服务的 Savings Plans 已于 2019 年 11 月推出,旨在帮助客户优化计算成本。与按需价格相比,可以节省高达 72% 的成本,以换取您承诺在一或三年期内使用特定数量的计算能力(以每小时 USD 计算)。本着自助服务的精神,您可以完全控制计划的设置,这要归功于基于过去使用情况的建议、使用情况报告以及预算覆盖率和利用率警报。
SageMaker Savings Plans 跟随这些足迹,而您可以根据以下方面创建涵盖 ML 工作负载的计划:
- 所有 ml.* 实例系列。
- 所有基于实例的工作负载:笔记本实例、Amazon SageMaker Studio 实例、训练实例、批量转换实例、实时终端节点实例、Amazon SageMaker Data Wrangler 实例、Amazon SageMaker Processing 实例。
Savings Plans 不区分实例系列、实例类型或 AWS 区域。无论您的使用案例和消耗如何随时间推移而变化,这都能让您轻松地最大限度节省成本,而且与按需价格相比,您可以节省高达 64% 的成本。
例如,您可以从小型实例开始,以便在数据集的一小部分上使用不同的算法进行试验。然后,您可以继续在整个数据集中使用较大的实例进行大规模准备数据和训练。最后,您可以在多个 AWS 区域部署模型,为用户提供低延迟预测。所有这些功能都涵盖在同一个 Savings Plan 中,无需您进行任何管理。
了解 Savings Plans 建议
Savings Plans 为您提供建议,使您可以轻松找到合适的计划。这些建议基于:
- 在过去 7 天、30 天或 60 天内 SageMaker 的使用情况。您应该选择最能代表未来使用情况的时间段。
- 您的计划期限:1 年或 3 年。
- 您的付款方式:无预付、预付部分费用(50% 或以上)或预付全部费用。一些客户更喜欢(或必须使用)最后一个选项,因为这使他们能够清晰且可预测地了解他们的 SageMaker 账单。
您将立即看到优化的支出将是多少,以及每月可以开始节省多少资金。Savings Plans 还建议每小时承诺,以最大限度地节省资金。当然,您可以完全自由地使用不同的承诺,最低为每小时 0.001 USD!
一旦您下定决心,您可以将计划添加到购物车中并提交,然后便可以开始享受成本节省福利。
现在,让我们快速演示一下,了解如何优化自己的 SageMaker 支出。
推荐 Amazon SageMaker Savings Plans
打开 AWS 成本管理控制台,我会在左侧看到 Savings Plans 菜单。
单击 Recommendations (推荐),我选择 SageMaker Savings Plans。
查看可用选项,我选择 Payer (付款人) 来优化组织级成本、1 年期限、无预付款和 7 天期过去的使用量(因为我刚刚提高了 SageMaker 使用量)。
我立即发现,我可以将 SageMaker 成本降低 20%,每月节省 897.63 USD。这只需要做出每小时 3.804 USD 的 1 年承诺。
我的 AWS 账单的月度费用为 2776 USD(3.804 USD * 24 小时 * 365 天/12 个月),加上额外的按需费用(如果我的实际使用量超过承诺额度)。非常诱人,特别是根本不需要预付款。
让我们看一下 3 年计划(仍然没有预付费用),我每月可以节省 1790.19 USD,而且由于我做出了每小时 2.765 USD 的承诺,我可以享受 41% 的节省。
我可以按原样将此计划添加到购物车中,然后完成购买。在 3 年内,我每月需支付 2018 USD(2.765 USD * 24 * 365/12),加上额外的按需费用。
如前所述,我也可以只需单击几下,即可创建自己的计划。我将向您展示如何操作。
创建 Amazon SageMaker Savings Plans
在左侧菜单中,我单击 Purchase Savings Plans (购买 Savings Plans),然后选择 SageMaker Savings Plans。
我选择一年期计划,没有任何预付费用。由于我预计在未来几个月里将 SageMaker 的使用量合理化,因此我将承诺每小时 3 USD,而不是建议的 3.804 USD。然后,我将计划添加到购物车中。
我确认我的费用已被优化,且接受每月支付 2190 USD,我提交了订单。
该计划现已激活,我将在下一个 AWS 账单上看到节省的资金。得益于 Savings Plans 控制台中提供的利用率报告,我还将看到我的实际使用量占承诺量的百分比。同样,覆盖率报告将向我显示我的合格支出中有多少支出已被计划覆盖。
开始使用
得益于 CPU 和 GPU 实例的价格降低以及 SageMaker Savings Plans,您现在可以轻松且可预测的方式进一步优化 SageMaker 成本。AWS 上的 ML 从未像现在这样具有成本效益。
目前在以下 AWS 区域推出降价和 SageMaker Savings Plans:
- 美洲:美国东部(弗吉尼亚北部)、美国东部(俄亥俄)、美国西部(俄勒冈)、美国西部(加利福尼亚北部)、AWS GovCloud(美国西部)、加拿大(中部)、南美洲(圣保罗)。
- 欧洲、中东和非洲:欧洲(爱尔兰)、欧洲(法兰克福)、欧洲(伦敦)、欧洲(巴黎)、欧洲(斯德哥尔摩)、欧洲(米兰)、非洲(开普敦)、中东(巴林)。
- 亚太地区:亚太地区(新加坡)、亚太地区(东京)、亚太地区(悉尼)、亚太地区(首尔)、亚太地区(孟买)、亚太地区(香港)。
立即试用,并向我们提供反馈。如往常一样,我们期待您的反馈。您可以通过您的常用 AWS Support 联系人,或者通过面向 Amazon SageMaker 的 AWS 论坛发送反馈。