Amazon SageMaker 通过整合专门为机器学习(ML)构建的广泛功能集,帮助数据科学家和开发人员快速准备、构建、训练和部署高质量的机器学习模型。SageMaker 支持领先的 ML 框架、工具包和编程语言。

使用 SageMaker,您只需按实际用量付费。您有两种付费选择:没有最低费用也没有预先承诺的按需定价,以及 SageMaker Savings Plans,它提供了一种基于用量的灵活定价模式,以换取对持续使用量的承诺。

Amazon SageMaker 免费套餐

Amazon SageMaker 可免费试用。作为 AWS 免费套餐的一部分,您可以从免费使用 Amazon SageMaker 开始。您的免费套餐从您创建第一个 SageMaker 资源的第一个月开始。如需了解关于 Amazon SageMaker 免费套餐的详细信息,请见下表。

Amazon SageMaker 的功能 免费套餐前 2 个月的每个月使用情况
Studio 笔记本以及笔记本实例 Studio 笔记本上的 250 个小时 ml.t3.medium 实例,或者笔记本实例上的 250 个小时 ml.t2 medium 实例或 ml.t3.medium 实例
RStudio on SageMaker RSession 应用程序上 250 个小时的 ml.t3.medium 实例和 RStudioServerPro 应用程序的免费 ml.t3.medium 实例
Data Wrangler 25 个小时 ml.m5.4xlarge 实例
特征存放区 1000 万个写单元,1000 万个读单元,25 GB 存储(标准在线存放区)
训练 50 个小时 m4.xlarge 或 m5.xlarge 实例
带有 TensorBoard 的 Amazon SageMaker 300 个小时 ml.r5.large 实例
实时推理 125 个小时 m4.xlarge 或 m5.xlarge 实例
无服务器推理 150000 秒按需推理持续时间
Canvas 会话时间为 160 小时/月,每月最多 10 个模型创建请求,每个请求最多 100 万个单元/模型创建请求
  免费套餐前 6 个月的每个月使用情况
实验
每个月提取 100,000 条指标记录,检索 100 万条指标记录,并存储 100,000 条指标记录

按需定价

  • Studio 笔记本
  • Amazon SageMaker Studio 笔记本
    Amazon SageMaker Studio Notebooks 是一键式 Jupyter 笔记本,可以快速启动。底层计算资源具有完全弹性,而笔记本支持轻松与他人共享,从而实现无缝协作。根据使用时长,您要为所选择的实例类型付费。

  • RStudio on SageMaker
  • RStudio on SageMaker
    RStudio on SageMaker 提供按需云计算资源,以加速模型开发并提高生产力。 您需要为您选择运行 RStudio Session 应用程序和 RStudio Server Pro 应用程序的实例类型付费。

    RStudioServerPro 应用程序

  • 笔记本实例
  • 笔记本实例
    笔记本实例是运行 Jupyter notebook 应用程序的计算实例。根据使用时长,您要为所选择的实例类型付费。

  • Processing
  • Amazon SageMaker Processing
    Amazon SageMaker Processing 使您可以在完全托管的基础设施上轻松运行预处理、后处理和模型评估工作负载。根据使用时长,您要为所选择的实例类型付费。

  • TensorBoard
  • 带有 TensorBoard 的 Amazon SageMaker
    带有 TensorBoard 的 Amazon SageMaker 提供托管的 TensorBoard 体验,用于可视化和调试 Amazon SageMaker 训练作业的模型融合问题。

  • Data Wrangler
  • Amazon SageMaker Data Wrangler
    Amazon SageMaker Data Wrangler 可将汇总和准备机器学习数据所需的时间从数周缩短至几分钟。您需要为清理、探索和可视化数据所用的时间付费。Amazon SageMaker 按使用每种实例类型的秒数定价。*

    Amazon SageMaker Data Wrangler 作业

    Amazon SageMaker Data Wrangler 作业会在从 SageMaker Data Wrangler 导出数据流时创建。借助于 SageMaker Data Wrangler 作业,您可以对数据准备工作流程进行自动化。SageMaker Data Wrangler 作业将数据准备工作流程重新应用于新的数据集以便帮助您节约时间,而它按秒计费。

  • 特征存放区
  • Amazon SageMaker Feature Store
    Amazon SageMaker Feature Store 是一种中央存储库,可为机器学习提取、存储和处理特征。您需要为 SageMaker Feature Store 中的写入、读取和数据存储付费,标准在线存放区和内存中在线存放区的定价不同。对于标准在线存放区,写入费用基于写入请求单位(每 KB 一个单位),读取费用基于读取请求单位(每 4KB 一个单位),而数据存储费用则基于每月每 GB。对于内存中在线存放区,写入费用基于每 KB 写入请求单位(每次写入至少 1 个单位),读取费用基于每 KB 读取请求单位(每次读取至少 1 个单位),而数据存储费用则基于每小时每 GB。内存中在线存放区的最低数据存储费用为每小时 5 GiB(5.37 GB)。

  • 培训
  • Amazon SageMaker 训练
    Amazon SageMaker 可提供训练、调优和调试模型所需的一切,从而简化了机器学习 (ML) 模型训练过程。您将按所选实例类型的使用情况付费。当在训练期间使用 Amazon SageMaker Debugger 调试问题和监控资源时,您可以使用内置规则调试您的训练作业,或编写自己的自定义规则。使用内置规则来调试您的训练作业不会产生费用。对于自定义规则,您要根据使用时长为所选择的实例类型付费。

  • 实验
  • Amazon SageMaker Experiments
    Amazon SageMaker Experiments 让您能够整理、跟踪和比较机器学习训练实验。您需为指标记录的摄取、检索和存储付费。指标记录是指标数据的一对密钥/值。提取和检索根据指标记录的数量付费。存储则根据每月存储的指标记录数量付费。您可以免费使用 SageMaker Studio 可视化您的试验。

     

    收费类型 价格
    提取 每 100 万条指标记录 1.25 USD
    检索 每 100 万条指标记录 0.25 USD
    存储 每 100 万条指标记录 0.25 USD(每月)

     

  • 实时推理
  • Amazon SageMaker 托管:实时推理
    Amazon SageMaker 为需要实时预测的用例提供实时推理。您将按所选实例类型的使用情况付费。当您借助 Amazon SageMaker Model Monitor 维持高准确性模型以提供实时推理时,您可以使用内置规则来监控模型,也可以编写自己的自定义规则。对于内置规则,您可以免费获得长达 30 小时的监控时间。是否产生额外费用将取决于使用的时长。如果使用自定义规则,您将被单独收取相关费用。

  • 异步推理
  • Amazon SageMaker 异步推理:
    Amazon SageMaker 异步推理是一种近乎实时的推理选项,可异步对传入请求进行排列与处理。当您需要在数据到达时处理大型负载,或者要运行推理处理时间较长的模型而没有亚秒级延迟要求时,使用此选项。您要为您所选的实例类型付费。

  • 批量转换
  • Amazon SageMaker 批量转换
    借助 Amazon SageMaker 批量转换,您无需将数据集拆分为多个数据块,也无需管理实时终端节点。SageMaker 批量转换让您可以针对大批量或小批量数据集运行预测。根据使用时长,您要为所选择的实例类型付费。

  • 无服务器推理
  • Amazon SageMaker 无服务器版推理
    Amazon SageMaker 无服务器推理功能使您能够部署机器学习模型进行推理,而不必配置或管理任何底层基础设施。 您可以使用按需无服务器推理,也可以向端点添加预置并发以实现可预测的性能。

    使用按需无服务器推理,您只需为用于处理推理请求的计算容量(按毫秒计费)和处理的数据量付费。计算费用取决于您选择的内存配置。

    预置并发

    或者,您也可以为无服务器端点启用预置并发。预置并发可让您在无服务器端点上部署模型,这些模型具有可预测的性能,并且通过让端点在指定时间为指定数量的并发请求保持预热来实现高可扩展性。与按需无服务器推理一样,启用预置并发后,您需要为用于处理推理请求的计算容量(按毫秒计费)和处理的数据量付费。还可以根据配置的内存、预置的持续时间和启用的并发量为预置并发使用量付费。

  • JumpStart
  • Amazon SageMaker JumpStart
    Amazon SageMaker JumpStart 让您能够一键式访问流行的模型集合(也称为“模型动物园”)可帮助您轻松快速地开始使用机器学习。Jumpstart 还提供能够解决常见机器学习使用案例的端到端解决方案,您可以根据自己的需求对这些解决方案进行自定义。使用 JumpStart 模型或解决方案不会产生额外的费用。您需要按使用的基础训练和推理实例小时数付费,如同这些实例是您手动创建的。

  • 分析工具
  • Amazon SageMaker Profiler 收集系统级数据,用于高分辨率 CPU 和 GPU 轨迹图的可视化。该工具旨在帮助数据科学家和工程师识别其深度学习模型中与硬件相关的性能瓶颈,从而节省端到端训练的时间和成本。目前,SageMaker Profiler 仅支持使用 ml.g4dn.12xlarge、ml.p3dn.24xlarge 和 ml.p4d.24xlarge 训练计算实例类型对训练作业进行性能分析。

    区域:美国东部(俄亥俄州)、美国东部(弗吉尼亚州北部)、美国西部(俄勒冈州)、欧洲地区(法兰克福)、欧洲地区(爱尔兰)和以色列(特拉维夫)。

    Amazon SageMaker Profiler 目前处于预览阶段,面向支持区域的客户免费提供。 

实例详细信息

Amazon SageMaker P5 实例产品详细信息

实例大小 vCPU 实例内存(TiB) GPU 型号 GPU GPU 总内存(GB) 每个 GPU 的内存(GB) 网络带宽(Gbps) GPUDirect RDMA GPU 对等 实例存储(TB) EBS 带宽(Gbps)
ml.p5.48xlarge 192 2 NVIDIA H100 8 640 HBM3 80 3200 EFAv2   900 GB/s NVSwitch   8 个 3.84 NVMe SSD 80

Amazon SageMaker P4d 实例产品详细信息

实例大小 vCPU 实例内存(GiB) GPU 型号 GPU GPU 总内存(GB) 每个 GPU 的内存(GB) 网络带宽(Gbps) GPUDirect RDMA GPU 对等 实例存储(GB) EBS 带宽(Gbps)
ml.p4d.24xlarge 96 1152 NVIDIA A100 8 320 HBM 2 40 400 ENA 和 EFA 600 GB/s NVSwitch 8 个 1000 NVMe SSD 19
ml.p4de.24xlarge 96 1152 NVIDIA A100 8 640 HNM2e 80 400 ENA 和 EFA 600 GB/s NVSwitch 8 个 1000 NVMe SSD 19

Amazon SageMaker P3 实例产品详细信息

实例大小 vCPU 实例内存(GiB) GPU 型号 GPU GPU 总内存(GB) 每个 GPU 的内存(GB) 网络带宽(Gbps) GPU 对等 实例存储(GB) EBS 带宽(Gbps)
ml.p3.2xlarge 8 61 NVIDIA V100 1 16 16 最高 10 不适用 仅限 EBS 1.5
ml.p3.8xlarge 32 244 NVIDIA V100 4 64 16 10 NVLink 仅限 EBS 7
ml.p3.16xlarge 64 488 NVIDIA V100 8 128 16 25 NVLink 仅限 EBS 14
ml.p3dn.24xlarge 96 768 NVIDIA V100 8 256 32 100 NVLink 2 个 900 NVMeSSD 19

Amazon SageMaker P2 实例产品详细信息

实例大小 vCPU 实例内存(GiB) GPU 型号 GPU GPU 总内存(GB) 每个 GPU 的内存(GB) 网络带宽(Gbps) EBS 带宽(Gbps)
ml.p2.xlarge 4 61 NVIDIA K80 1 12 12 最高 10
ml.p2.8xlarge 32 488 NVIDIA K80 8 96 12 10 10
ml.p2.16xlarge 64 732 NVIDIA K80 16 192 12 25 20

Amazon SageMaker G4 实例产品详细信息

实例大小 vCPU 实例内存(GiB) GPU 型号 GPU GPU 总内存(GB) 每个 GPU 的内存(GB) 网络带宽(Gbps) 实例存储(GB) EBS 带宽(Gbps)
ml.g4dn.xlarge 4 16 NVIDIA T4 1 16 16 最高 25 1 个 125 NVMe SSD 最高 3.5
ml.g4dn.2xlarge 8 32 NVIDIA T4 1 16 16 最高 25 1 个 125 NVMe SSD 最高 3.5
ml.g4dn.4xlarge 16 64 NVIDIA T4 1 16 16 最高 25 1 个 125 NVMe SSD 4.75
ml.g4dn.8xlarge 32 128 NVIDIA T4 1 16 16 50 1 个 900 NVMe SSD 9.5
ml.g4dn.16xlarge 64 256 NVIDIA T4 1 16 16 50 1 个 900 NVMe SSD 9.5
ml.g4dn.12xlarge 48 192 NVIDIA T4 4 64 16 50 1 个 900 NVMe SSD 9.5

Amazon SageMaker G5 实例产品详细信息

实例大小 vCPU 实例内存(GiB) GPU 型号 GPU GPU 总内存(GB) 每个 GPU 的内存(GB) 网络带宽(Gbps) EBS 带宽(Gbps) 实例存储(GB)
ml.g5n.xlarge 4 16 NVIDIA A10G 1 24 24 最高 10 最高 3.5 1x250
ml.g5.2xlarge 8 32 NVIDIA A10G 1 24 24 最高 10 最高 3.5 1x450
ml.g5.4xlarge 16 64 NVIDIA A10G 1 24 24 最高 25 8 1x600
ml.g5.8xlarge 32 128 NVIDIA A10G 1 24 24 25 16 1x900
ml.g5.16xlarge 64 256 NVIDIA A10G 1 24 24 25 16 1x1900
ml.g5.12xlarge 48 192 NVIDIA A10G 4 96 24 40 16 1x3800
ml.g5.24xlarge 96 384 NVIDIA A10G 4 96 24 50 19 1x3800
ml.g5.48xlarge 192 768 NVIDIA A10G 8 192 24 100 19 2x3800

Amazon SageMaker Trn1 实例产品详细信息

实例大小 vCPU 内存 (GiB) Trainium 加速器 加速器总内存(GB) 每个加速器的内存(GB) 实例存储 (GB) 网络带宽(Gbps) EBS 带宽(Gbps)
ml.trn1.2xlarge 8 32 1 32 32 1 个 500 NVMe SSD 最高 12.5 最高 20
ml.trn1.32xlarge 128 512 16 512 32 4 x 2000 NVMe SSD 800 80

Amazon SageMaker Inf1 实例产品详细信息

实例大小 vCPU 内存 (GiB) Inferentia 加速器 加速器总内存(GB) 每个加速器的内存(GB) 实例存储 加速器间互连 网络带宽(Gbps) EBS 带宽(Gbps)
ml.inf1.xlarge 4 8 1 8 8 仅限 EBS 不适用 最高 25 最高 4.75
ml.inf1.2xlarge 8 16 1 8 8 仅限 EBS 不适用 最高 25 最高 4.75
ml.inf1.6xlarge 24 48 4 32 8 仅限 EBS 25 4.75
ml.inf1.24xlarge 96 192 16 128 8 仅限 EBS 100 19

Amazon SageMaker Inf2 实例产品详细信息

实例大小 vCPU 内存 (GiB) Inferentia 加速器 加速器总内存(GB) 每个加速器的内存(GB) 实例存储 加速器间互连 网络带宽(Gbps) EBS 带宽(Gbps)
ml.inf2.xlarge 4 16 1 32 32 仅限 EBS 不适用 最高 25 最高 10
ml.inf2.8xlarge 32 128 1 32 32 仅限 EBS 不适用 最高 25 10
ml.inf2.24xlarge 96 384 6 个 196 32 仅限 EBS 50 30
ml.inf2.48xlarge 192 768 12 384 32 仅限 EBS 100 60

Amazon SageMaker Studio

您现在可访问 Amazon SageMaker Studio,它是首个无需额外费用的完全集成开发环境 (IDE)。借助 SageMaker Studio,您可以全面了解和访问构建、训练和部署模型的每个步骤。使用 SageMaker Studio,您只需为您在 Studio 中使用的基础计算和存储付费。

您可以使用 SageMaker Studio、适用于 Python 的 AWS SDK(Boto3)或 AWS CLI 中的许多服务,包括:

您只需要根据自己的使用情况为 SageMaker 内的底层计算和存储资源或其他 AWS 服务付费。

Amazon SageMaker Studio Lab

您可以免费使用 Amazon SageMaker Studio Lab构建和训练 ML 模型。 SageMaker Studio Lab 为开发人员、学者和数据科学家提供了一个无配置的开发环境,可以在其中免费学习和试验 ML。

Amazon SageMaker Canvas

Amazon SageMaker Canvas 通过为业务分析师提供使用可视化点击界面生成准确 ML 预测的能力,扩展了 ML 访问 - 无需编码或 ML 经验。

Amazon SageMaker Data Labeling

Amazon SageMaker Data Labeling 提供两种数据标注产品,Amazon SageMaker Ground Truth Plus 和 Amazon SageMaker Ground Truth。您可以了解关于 Amazon SageMaker Data Labeling 的更多信息,它是一种完全托管式数据标注服务,可让您轻松构建高度准确的训练数据集以用于 ML。

Amazon SageMaker 影子测试

SageMaker 通过针对当前部署的模型测试其性能,帮助您运行影子测试以在生产发布之前评估新的 ML 模型。对于预配置为托管影子模型的机器学习实例和存储,在使用量费用之外,进行 SageMaker 影子测试不额外收费。机器学习实例和存储维度的定价与前面定价表中注明的实时推理选项的定价相同。影子部署内外部处理的数据不额外收费。

Amazon SageMaker Edge

了解关于 Amazon SageMaker Edge 定价的更多信息,它可以在边缘设备队列上优化、运行与监控 ML 模型。 

Amazon SageMaker Savings Plans

Amazon SageMaker Savings Plans 最高可帮助您节省 64% 的费用。这些计划会自动应用于符合条件的 SageMaker ML 实例用量,包括 SageMaker Studio Notebooks、SageMaker 笔记本实例、SageMaker 处理、SageMaker Data Wrangler、SageMaker 训练、SageMaker 实时推理和 SageMaker 批量转换,无论实例系列、大小或区域如何。例如,您可以随时将在美国东部(俄亥俄州)运行的 CPU 实例 ml.c5.xlarge 用量更改为在美国西部(俄勒冈州)运行的 ml.Inf1 实例用量以用于推理工作负载,并自动继续支付 Savings Plans 价格。 

了解详情 »

Amazon SageMaker 的总体拥有成本(TCO)

与其他基于云的自行管理的解决方案相比,Amazon SageMaker 在三年期间的总体拥有成本(TCO)至少降低 54%。通过 Amazon SageMaker 的完整 TCO 分析了解更多信息。

定价示例

  • 数据科学家在使用 Amazon SageMaker Studio 笔记本时按以下顺序执行操作。

    1. 在 ml.c5.xlarge 实例上的 TensorFlow 内核中打开笔记本 1,然后在此笔记本上工作 1 小时。
    2. 在 ml.c5.xlarge 实例上打开笔记本 2。该笔记本将在运行笔记本 1 的 ml.c5.xlarge 实例中自动打开。 
    3. 同时在笔记本 1 和笔记本 2 上工作 1 小时。
    4. 数据科学家将为总计两 (2) 小时的 ml.c5.xlarge 使用时长付费。对于她同时在笔记本 1 和笔记本 2 上工作的重叠时间,将按 0.5 小时对每个内核应用程序计费,她将支付 1 小时的费用。
    内核应用程序 笔记本实例 小时数 每小时费用 合计
    TensorFlow ml.c5.xlarge 1 0.204 美元 0.204 美元
    TensorFlow ml.c5.xlarge 0.5 0.204 美元 0.102 美元
    数据科学 ml.c5.xlarge 0.5 0.204 美元 0.102 美元
            0.408 美元
  • 数据科学家在使用 RStudio on SageMaker 时按以下顺序执行操作:

    1. 在 ml.c5.xlarge 实例上启动 RSession 1,然后在此笔记本上工作 1 小时。
    2. 在 ml.c5.xlarge 实例上启动 RSession 2.该笔记本将在运行 RSession 1 的 ml.c5.xlarge 实例中自动打开。
    3. 同时在 RSession 1 和 RSession 2 上工作 1 小时。
    4. 数据科学家将为总计两 (2) 小时的 ml.c5.xlarge 使用时长付费。对于她同时在 RSession 1 和 RSession 2 上工作的重叠时间,将按 0.5 小时对每个 RSession 应用程序计费,她将支付 1 小时的费用。

    同时,无论是否运行 RSessions,RServer 都全天候运行。如果管理员选择“小型”(ml.t3.medium),则为免费。如果管理员选择“中型”(ml.c5.4xlarge) 或“大型”(ml.c5.9xlarge),则只要为 SageMaker 域启用 RStudio,就会按小时收费。

    RSession 应用程序 RSession 实例 小时数 每小时费用 合计
    Base R ml.c5.xlarge 1 0.204 美元 0.204 美元
    Base R ml.c5.xlarge 0.5 0.204 美元 0.102 美元
    Base R ml.c5.xlarge 0.5 0.204 美元 0.102 美元
            0.408 美元
  • Amazon SageMaker Processing 仅针对您在运行任务期间使用的实例收费。如果您用 Amazon S3 提供输入数据进行处理,则 Amazon SageMaker 会在处理任务开始时将数据从 Amazon S3 下载到本地文件存储。

    该数据分析师在两个 ml.m5.4xlarge 实例上运行处理任务以便处理和验证数据,任务间隔时间为 10 分钟。她将 100GB 的数据集上传到 S3 中,作为处理任务的输入,而输出数据的大小与此大致相同,被传输回 S3 中。

    小时数 处理实例 每小时费用 合计
    1 * 2 * 0.167 = 0.334 ml.m5.4xlarge 0.922 USD 0.308 USD
    通用型(SSD)存储(GB) 每小时费用 合计
    100 GB * 2 = 200 0.14 USD 0.0032 USD

    Amazon SageMaker Processing 任务的费用小计 = 0.308 USD。
    200GB 通用型 SSD 存储的费用小计 = 0.0032 USD。
    此示例的费用合计为 0.3112 USD。

  • 作为一名数据科学家,您要在三天内每天花 6 个小时使用 Amazon SageMaker Data Wrangler 来清理、探索和对您的数据进行可视化。然后,为了执行您的数据准备管道,您要启动计划每周运行的 SageMaker Data Wrangler 作业。

    下表总结了您在当月的总使用量,以及与使用 Amazon SageMaker Data Wrangler 相关的费用。

    应用程序 SageMaker Studio 实例 天数 持续时间 总时长 每小时费用 费用小计
    SageMaker Data Wrangler ml.m5.4xlarge 3 6 小时 18 小时 0.922 USD 16.596 USD
    SageMaker Data Wrangler 作业 ml.m5.4xlarge - 40 分钟 2.67 小时 0.922 USD 2.461 USD

    从表中可以看出,为了准备数据,您在 3 天内使用 Amazon SageMaker Data Wrangler 的总时长为 18 个小时。此外,您还创建了一个 SageMaker Data Wrangler 作业,以便每周准备更新的数据。每个作业持续 40 分钟,作业在一个月内每周运行。

    使用 Data Wrangler 的月度总费用 = 16.596 USD + 2.461 USD = 19.097 USD

  • 您有一个 Web 应用程序,它每次向 Amazon SageMaker 特征存放区发放 25KB 读取和写入。在一个月的前 10 天,流向您的应用程序的流量较少,每天产生对 SageMaker 特征存放区的 10000 次写入和 10000 次读取。在该月的第 11 天,您的应用程序受到社交媒体的关注,应用程序流量峰值在当天达到 200000 次写入和 200000 次读取。您的应用程序将进入更常规的流量模式,在接下来到月底的时间内,平均每天达到 80000 次写入和 80000 次读取。

    下表总结了您在当月的总使用量,以及与使用 Amazon SageMaker Feature Store 相关的费用。

    当月第几天 总写入数 总写入单位 总读取数 总读取单位
    第 1 至 10 天 100000 次写入 
    (10000 次写入 * 10 天)
    2500000 
    (100000 * 25KB)
    100000 
    (10000 * 10 天)
    700000++ 
    (100000 * 25/4KB)
             
    第 11 天 200000 次写入 5000000 
    (200000* 25KB)
    200000 次读取 1400000++ 
    (200000* 25/4KB)
             
    第 12 至 30 天 1520000 次写入 
    (80000 * 19 天)
    38000000 
    (1520000 * 25KB)
    1520000 次写入
    (80000 * 19 天)
    10640000++
    (1520000 * 25/4KB)
             
    总应计费单位   45500000 个写入单位   12740000 个读取单位
    月度写入和读取费用   56.875 USD 
    (4.55 千万个写入单位 * 每百万次写入 1.25 美元)
      3.185 USD 
    (1274 千万个读取单位 * 每百万次读取 0.25 USD)

    ++ 所有小数读取单位都向上取整数

    数据存储
    总存储数据 = 31.5 GB
    月度数据存储费用 = 31.5 GB * 0.45 USD = 14.175 USD

    月度 Amazon SageMaker 特征存放区总费用 = 56.875 USD + 3.185 USD + 14.175 USD = 74.235 USD

  • 一位数据科学家花了一周时间来为实验新想法建立模型。她在 ml.m4.4xlarge 上对模型进行了 4 次训练,每次训练 30 分钟,并且启用了 Amazon SageMaker Debugger,使用了 2 项内置规则和 1 项自己编写的自定义规则。对于自定义规则,她指定了 ml.m5.xlarge 实例。训练中使用了 3GB 位于 Amazon S3 中的训练数据,并将 1GB 模型输出推送到 Amazon S3 中。SageMaker 针对每个训练实例创建了通用型 SSD(gp2)卷。SageMaker 还针对指定的每项规则创建了通用型 SSD(gp2)卷。在本示例中一共创建了 4 个通用型 SSD(gp2)卷。SageMaker 调试程序将 1GB 的调试数据传送到客户的 Amazon S3 存储桶中。

     

    小时数 训练实例 调试实例 每小时费用 费用小计
    4 * 0.5 = 2.00 ml.m4.4xlarge 不适用 0.96 USD 1.92 USD
    4 * 0.5 * 2 = 4 不适用 内置规则实例无额外费用 0 USD 0 USD
    4 * 0.5 = 2 ml.m5.xlarge 不适用 0.23 USD 0.46 USD
            -------
            2.38 USD
      用于训练的通用型(SSD)存储(GB) 用于 Debugger 内置规则的通用型(SSD)存储(GB) 用于 Debugger 自定义规则的通用型(SSD)存储(GB) 每月每 GB 费用 费用小计
    使用的容量 3 2 1    
    费用 0 USD 内置规则存储卷无额外费用 0 USD 0.10 USD 0 USD

    在本示例中,训练和调试的总费用为 2.38 USD。Amazon SageMaker Debugger 内置规则使用的计算实例和通用型存储卷不产生额外费用。

  • 一个由 100 名数据科学家组成的团队正在孵化一个新创意项目。他们开展试验,利用不同的参数和数据集来训练模型。每一名数据科学家一个月平均在超过 20 个 epoch 上训练一个模型十次,捕获 5 个自定义指标。这些数据科学家使用 SageMaker Studio 来分析试验结果。在此示例中,具体费用如下:

      费用 总计单位 月度费用
    提取 每 100 万条指标记录 1.25 USD 提取了 100,000(=100 名数据科学家 * 10 次 * 20 个 epoch * 5 个指标)条指标记录 0.125 USD (= 1.25 * 100,000/1,000,000)
    SageMaker Studio 使用量 0 USD   0 USD
    检索 每 100 万条指标记录 0.25 USD 0 0 USD
    存储 每 100 万条指标记录 0.25 USD(每月) 存储了 100,000 条指标记录 0.025 USD (= 0.25 * 100,000/1,000,000)
    月度总费用     0.15 USD

     

    您的一个机器学习工作台有 1,000 名数据科学家使用它。他们开展试验,利用不同的参数和数据集来训练模型。每一名数据科学家一个月在超过 20 个 epoch 上训练一个模型十次,捕获 5 个自定义指标。该工作台使用检索 API 从 SageMaker Experiments 获取自定义分析的试验数据。 数据科学家们比较他们在十次不同训练迭代过程中记录的数据,希望找出最佳候选模型。 在此示例中,具体费用如下:

      费用 总计单位 月度费用
    提取 每 100 万条指标记录 1.25 USD 提取了 100 万(=1,000 名数据科学家 * 10 次 * 20 个 epoch * 5 个指标)条指标记录 1.25 USD (= 1.25 * 1)
    SageMaker Studio 使用量 0 USD   0 USD
    检索 每 100 万条指标记录 0.25 USD 检索了 1,000 万(= 提取了 100 万个指标 * 每个提取的指标进行 10 次检索)条指标记录 2.5 USD (= 0.25 * 10)
    存储 每 100 万条指标记录 0.25 USD(每月) 存储了 100 万条指标记录 0.25 USD (= 0.25 * 1)
    月度总费用     4 USD
  • 示例 5 中的模型被部署到生产环境中的两(2)个 ml.c5.xlarge 实例上,用于实现可靠的多可用区托管。使用一(1)个 ml.m5.4xlarge 实例运行 Amazon SageMaker 模型监控器,每天运行一次监控任务。每次监控任务用时 5 分钟。该模型每日接收 100MB 数据,而推理则为输入数据大小的 1/10。

    每月小时数 托管实例 模型监控实例 每小时费用 合计
    24 * 31 * 2 = 1488 ml.c5.xlarge   0.204 美元 303.522 USD
    31*0.08 = 2.5   ml.m5.4xlarge 0.922 USD 2.305 美元

     

    每月输入数据 – 托管 每月输出数据 – 托管 每 GB 输入或输出费用 合计
    100MB * 31 = 3100MB   0.016 USD 0.0496 USD
      10MB * 31 = 310MB 0.016 USD 0.00496 USD

    训练、托管和监控的费用小计 = 305.827 USD。每月托管 3100MB 已处理的输入数据和 310MB 已处理的输出数据费用小计 = 0.054 USD。此示例的费用合计为 305.881 USD/月。

    请注意,对于处理内置规则的 ml.m5.xlarge 实例,您每月可以免费获得长达 30 小时并且覆盖所有端点的免费监控时间。

  • Amazon SageMaker 异步推理会针对您的端点所使用的实例向您收取费用。如果未积极处理请求,您可以配置自动扩展以扩缩实例数量到零,从而节省成本。对于 Amazon S3 中的输入负载,在相同区域内读取来自 Amazon S3 的输入数据和写入输出数据到 S3 不会产生费用。

    示例 5 中的模型被用于运行 SageMaker 异步推理终端节点。终端节点被配置为在 1 个 ml.c5.xlarge 实例上运行,并在未积极处理请求时缩减实例数量到零。终端节点中的 ml.c5.xlarge 实例附有 4GB 通用型(SSD)存储。在此示例中,终端节点每天有 2 个小时维护的实例数量为 1,并有 30 分钟冷却时间,然后在一天当中的其他时间,它会缩减实例数量到零。因此,您要为每天的 2.5 个小时使用时间付费。 

    终端节点每天处理 1024 个请求。每个调用请求/回应正文的大小为 10KB,而且 Amazon S3 中的每个推理请求有效负载为 100MB。推理输出的大小是输入数据的 1/10,输入数据被重新存储到相同区域的 Amazon S3 当中。在此示例中,数据处理费用适用于请求和回应正文,但不适用于以 Amazon S3 为起点/终点的传输数据。 

    每月小时数 托管实例 每小时费用 合计
    2.5 * 31 * 1 = 77.5 ml.c5.xlarge 0.20 USD 15.81 USD
    通用型(SSD)存储(GB) 每月每 GB 费用 合计
    4 0.14 USD 0.56 USD
    每月输入数据 每月输出数据 每 GB 输入或输出费用 合计
    10KB * 1024 * 31 = 310MB 10KB * 1024 * 31 = 310MB 0.02 USD 0.0048
      10KB * 1024 * 31 = 310MB 0.02 USD 0.0048

    SageMaker 异步推理的费用小计 = 15.81 USD + 0.56 USD + 2 * 0.0048 = 16.38 USD。此示例的异步推理费用合计为 16.38 USD/月。

  • 示例 5 中的模型用于运行 SageMaker 批量转换。该数据科学家在 3 个 ml.m4.4xlarge 上运行四个独立的 SageMaker 批量转换任务,每个任务运行 15 分钟。她每次运行时估计在 S3 中上传 1GB 的数据集,而推理为输入数据(存储回 S3 的数据)的 1/10。

    小时数 托管实例 每小时费用 合计
    3 * 0.25 * 4 = 3 小时 ml.m4.4xlarge 0.96 USD 2.88 USD

    在此示例中,推断的总费用为 2.88 USD。

  • 使用按需无服务器推理,您只需为用于处理推理请求的计算容量(按毫秒计费)和处理的数据量付费。计算费用取决于您选择的内存配置。

    如果您为端点分配了 2GB 的内存,在一个月内执行了 1000 万次,每次运行时间为 100 毫秒,并且总共处理了 10GB 的数据输入/输出,那么您的费用将计算如下:

    月度计算费用

    请求数量 每个请求的持续时间 总推理持续时间(秒) 每秒费用 月度推理持续时间费用
    10 M 100ms 1M 0.00004 USD 40 USD

    月度数据处理费用 

    数据处理 (GB) 每 GB 输入或输出费用 月度数据处理费用
    10 GB 0.016 USD 0.16 USD

    SageMaker 无服务器按需推理持续时间费用的小计 = 40 USD。10GB 数据处理费用的小计 = 0.16 USD。此示例的费用合计为 40.16 USD。

  • 假设您正在为一家薪资处理公司运行聊天机器人服务。您预计在纳税申报截止日期之前的三月底,买家咨询量将激增。但是,在本月余下的时间里,预计流量将很低。因此,您可以部署一个具有 2GB 内存的无服务器端点,并且当月最后 5 天上午 9 点至下午 5 点(8 小时)的预置并发数为 100,在此期间,您的端点将处理 1000 万个请求和总计 10GB 的数据输入/输出。在本月剩余时间,聊天机器人将基于按需无服务器推理运行,处理 300 万个请求和 3GB 的数据输入/输出。让我们假设每个请求的持续时间为 100 毫秒。

    预置并发 (PC) 费用
    PC 价格为 0.000010 USD/秒
    PC 使用时长(秒)= 5 天 * 100 台 PC * 8 小时 * 3600 秒 = 14400000 秒
    PC 使用费 = 14400000 秒 * 0.000010 USD/ 秒 = 144 USD。

    预置并发所提供流量的推断持续时间费用
    推理持续时间价格为 0.000023 USD/秒
    PC 的总推理持续时间(秒)= 10M *(100 毫秒)/1000 = 1M 秒。
    PC 的推理持续时间费用 = 1000000 秒 * 0.000023 USD/秒 = 23 USD

    按需推理时长费用
    月度计算价格为 0.00004 USD/秒,免费套餐提供 150k 秒。
    总计算(秒)= (3) M * (100 毫秒) /1000 = 0.3M 秒。
    总计算 – 免费套餐计算 = 月度计费计算(秒)
    0.3M 秒 — 150k 秒 = 150k 秒
    月度计算费用 = 150k * 0.00004 USD = 6 USD

    数据处理
    处理进/输出数据的成本/GB = 0.016 美元
    处理的总千兆字节数 = 10+3 = 13
    总成本 = 0.016 USD * 13 = 0.208 USD

    三月的总费用
    总费用 = 预置并发费用 + 预置并发的推断持续时间 + 按需计算的推断持续时间 + 数据处理费用
    = 144 USD + 23 USD + 6 USD + 0.208 USD = 173.2 USD

  • 客户使用 JumpStart 部署了一个经预先训练的 BERT Base Uncased 模型,用来将客户评价情绪分类为积极和消极两类。

    客户将此模型部署到两(2)个 ml.c5.xlarge 实例上,以确保可靠的多可用区托管。该模型每日接收 100MB 数据,而推理则为输入数据大小的 1/10。

    每月小时数 托管实例 每小时费用 合计
    24 * 31 * 2 = 1488 ml.c5.xlarge 0.204 美元 303.55 美元
     
    每月输入数据 – 托管 每月输出数据 – 托管 每 GB 输入或输出费用

    合计

    100MB * 31 = 3100MB   0.02 USD 0.06 USD
      10MB * 31 = 310MB 0.02 USD 0.01 USD
     

    训练、托管和监控的费用小计 = 305.827 USD。每月托管 3100MB 已处理的输入数据和 310MB 已处理的输出数据费用小计 = 0.06 USD。此示例的费用合计为 305.887 USD/月。

详细了解 Amazon SageMaker

访问 SageMaker 概览页面
准备好开始使用了吗?
注册
还有更多问题?
联系我们