Amazon Bedrock 定价

定价示例

• AI21 labs

  应用程序开发人员对 Amazon Bedrock 执行了以下 API 调用：请求 AI21 的 Jurasic-2 Mid 模型将 1 万个令牌的输入文本总结成 2000 个令牌的输出。
  

  产生的总成本 = 1 万个令牌/1000 * 0.0125 美元 + 2000 个令牌/1000 * 0.0125 美元 = 0.15 美元
  

• Amazon

  按需定价

  应用程序开发人员每小时对 Amazon Bedrock 执行以下 API 调用：请求 Amazon Titan Text Lite 模型将 2000 个令牌的输入文本总结成 1000 个令牌的输出。

  每小时产生的总成本为 = 2000 个令牌/1000 * 0.0003 美元 + 1000 个令牌/1000 * 0.0004 美元 = 0.001 美元。

  应用程序开发人员对 Amazon Bedrock 执行了以下 API 调用：请求 Amazon Titan 图像生成器基础模型生成 1000 张大小为 1024 x 1024 的标准质量图像。

  产生的总成本 = 1000 张图像 * 每张图像 0.01 美元 = 10 美元

  定制（微调和持续预训练）定价

  应用程序开发人员使用 1000 个图像文本对自定义 Amazon Titan 图像生成器模型。训练结束后，开发人员使用自定义模型预配置吞吐量一小时来评估模型的性能。经过微调的模型将存储一个月。评估后，开发人员使用预配置吞吐量（1 个月承诺期）来托管自定义模型。

  微调产生的每月成本为：微调训练（0.005 美元 * 500 * 64），其中 0.005 美元是每张图像的价格，500 是步骤数，64 是批量大小 + 每月自定义模型存储（1.95 美元）+ 一小时的自定义模型推理（21 美元）= 160 美元 + 1.95 美元 + 21 = 182.95 美元
  

  预配置吞吐量定价

  应用程序开发人员购买了两个 Amazon Titan Text Express 模型单元，用于处理文本摘要，承诺期为 1 个月。

  每月产生的总成本 = 2 个模型单元 * 18.40 美元/小时 * 24 小时 * 31 天 = 27379.20 美元

  应用程序开发人员购买了一个基本 Amazon Titan 图像生成器模型的模型单元，承诺期为 1 个月。

  产生的总成本 = 1 个模型单元 * 16.20 美元 * 24 小时 * 31 天 = 12052.80 美元

• Anthropic

  按需定价

  应用程序开发人员在美国西部（俄勒冈州）对 Amazon Bedrock 执行了以下 API 调用：请求 Anthropic 的 Claude 模型将 1.1 万个令牌的输入文本总结成 4000 个令牌的输出。

  产生的总成本 = 1.1 万个令牌/1000 * 0.008 美元 + 4000 个令牌/1000 * 0.024 美元 = 0.088 美元 + 0.096 美元 = 0.184 美元
  

  预配置吞吐量定价

  一位应用程序开发人员在美国西部（俄勒冈州）区域购买了 Anthropic Claude Instant 的一个模型单元：
  

  每月产生的总成本 = 1 个模型单元 * 39.60 美元 * 24 小时 * 31 天 = 29462.40 美元

• Cohere

  按需定价

  应用程序开发人员对 Amazon Bedrock 执行了以下 API 调用：请求 Cohere 的 Command 模型将 6000 个令牌的输入文本总结成 2000 个令牌的输出。

  产生的总成本 = 6000 个令牌/1000 * 0.0015 美元 + 2000 个令牌/1000 * 0.0020 美元 = 0.013 美元

  应用程序开发人员对 Amazon Bedrock 执行了以下 API 调用：请求 Cohere 的 Command-Light 模型将 6000 个令牌的输入文本总结成 2000 个令牌的输出。

  产生的总成本 = 6000 个令牌/1000 * 0.0003 美元 + 2000 个令牌/1000 * 0.0006 美元 = 0.003 美元

  应用程序开发人员对 Amazon Bedrock 进行了以下 API 调用：请求 Cohere 的 Embed 英语或 Embed 多语言模型为 1 万个输入令牌生成嵌入。

  产生的总成本为 = 1 万个令牌/1000 * 0.0001 美元 = 0.001 美元

  自定义（微调）定价

  应用程序开发人员使用 1000 个数据令牌自定义 Cohere 命令模型。训练结束后，使用自定义模型预配置吞吐量一小时来评估模型的性能。经过微调的模型将存储一个月。评估后，开发人员使用预配置吞吐量（1 个月承诺期）来托管自定义模型。

  微调产生的每月成本 = 微调训练（0.004 美元 * 1000 美元）+ 每月自定义模型存储（1.95 美元）+ 1 小时自定义模型推理（49.50 美元）= 55.45 美元
  

  自定义模型的预置吞吐量（1 个月承诺期）产生的每月成本 = 39.60 美元

  预配置吞吐量定价
  

  应用程序开发人员购买了一个 Cohere Command 模型单元，用于处理文本摘要，承诺期为 1 个月。

  每月产生的总成本 = 1 个模型单元 * 39.60 美元 * 24 小时 * 31 天 = 29462.40 美元

• Meta Llama

  按需定价

  应用程序开发人员对 Amazon Bedrock 执行了以下 API 调用：请求 Meta 的 Llama 2 Chat（13B）模型将 2000 个令牌的输入文本总结成 500 个令牌的输出。

  产生的总成本为 = 2000 个令牌/1000 * 0.00075 美元 + 500 个令牌/1000 * 0.001 美元 = 0.002 美元

  自定义（微调）定价

  应用程序开发人员使用 1000 个数据令牌自定义 Llama 2 预训练（70B）模型。训练结束后，使用自定义模型预配置吞吐量一小时来评估模型的性能。经过微调的模型将存储一个月。评估后，开发人员使用预配置吞吐量（1 个月承诺期）来托管自定义模型。

  每月微调产生的费用为：微调训练（0.00799 美元 x 1000）+ 每月自定义模型存储空间（1.95 美元）+ 一小时的自定义模型推理（23.50 美元）= 33.44 美元

  自定义模型的预配置吞吐量（1 个月承诺期）产生的每月成本 = 21.18 美元

  预配置吞吐量定价

  应用程序开发人员购买了一个 Meta Llama 2 模型单元，用于处理文本摘要，承诺期为 1 个月。

  每月产生的总成本 = 1 个模型单元 * 21.18 美元 * 24 小时 * 31 天 = 15757.92 美元

• Mistral AI

  按需定价

  应用程序开发人员每小时对 Amazon Bedrock 执行以下 API 调用：请求 Mistral 7B 模型将 2000 个令牌的输入文本总结成 1000 个令牌的输出。

  每小时产生的总成本为 = 2000 个令牌/1000 * 0.00015 美元 + 1000 个令牌/1000 * 0.0002 美元 = 0.0005 美元

  应用程序开发人员每小时对 Amazon Bedrock 执行以下 API 调用：请求 Mixtral 8x7B 模型将 2000 个令牌的输入文本总结成 1000 个令牌的输出。

  每小时产生的总成本为 = 2000 个令牌/1000 * 0.00045 美元 + 1000 个令牌/1000 * 0.0007 美元 = 0.0016 美元

  应用程序开发人员每小时对 Amazon Bedrock 执行以下 API 调用：请求 Mistral Large 模型将 2000 个令牌的输入文本总结成 1000 个令牌的输出。 

  每小时产生的总成本为 = 2000 个令牌/1000 * 0.008 美元 + 1000 个令牌/1000 * 0.024 美元 = 0.04 美元
  
  

• Stability AI

  按需定价

  应用程序开发人员对 Amazon Bedrock 执行了以下 API 调用：请求 SDXL 模型生成尺寸为 512 x 512、步长为 70（高质量）的图像。

  产生的总成本 = 1 张图像 * 每张图像 0.036 美元 = 0.036 美元

  应用程序开发人员对 Amazon Bedrock 执行了以下 API 调用：请求 SDXL 1.0 模型生成尺寸为 1024 x 1024、步长为 70（高质量）的图像。

  产生的总成本 = 1 张图像 * 每张图像 0.08 美元 = 0.08 美元

  预配置吞吐量定价

  应用程序开发人员购买了一个 SDXL 1.0 模型单元，承诺期为 1 个月。

  产生的总成本 = 1 * 49.86 美元 * 24 小时 * 31 天 = 37,095.84 美元

• 模型评估

  模型评估示例 1：

  按需定价
  一位应用程序开发人员在美国东部（弗吉尼亚州北部）AWS 区域使用 Anthropic Claude 2.1 和 Anthropic Claude Instant 提交了一个数据集，用于基于人体的模型评估。

  该数据集包含 50 个提示，开发人员需要 1 个工作人员对每个提示响应集进行评分（可在评估作业创建中配置为“每个提示的工作人员”参数）。
  
  此评估作业中将有 50 个任务（每个工作人员的每组提示响应有 1 个任务）。50 个提示总计 5000 个输入令牌，相关响应总计为 1.5 万个 Anthropic Claude Instant 令牌和 2 万个 Anthropic Claude 2.1 令牌。
  
  此模型评估作业会产生以下费用：

  项目	输入令牌的数量	每 1000 个输入令牌的价格	输入成本	输出令牌的数量	每 1000 个输出令牌的价格	输出成本	人工任务数量	每项人工任务的价格	人工任务的成本	合计
  Claude Instant Inference	5000	0.0008 USD	0.004 USD	15000	0.0024 USD	0.036 USD				0.04 USD
  Claude 2.1 Inference	5000	0.008 USD	0.04 USD	20000	0.024 USD	0.48 USD				0.52 USD
  人工任务							50	0.21 USD	10.50 USD	10.50 USD
  合计										11.06 美元

  模型评估示例 2：

  按需定价
  一位应用程序开发人员在美国东部（弗吉尼亚州北部）AWS 区域使用 Anthropic Claude 2.1 和 Anthropic Claude Instant 提交了一个数据集，用于基于人体的模型评估。
  
  该数据集包含 50 个提示，开发人员需要 2 个工作人员对每个提示响应集进行评分（可在评估作业创建中配置为“每个提示的工作人员”参数）。此评估作业中将有 100 个任务（每个工作人员的每组提示响应有 1 个任务：2 个工作人员 x 50 个提示响应集 = 100 个人工任务）。
  
  50 个提示总计 5000 个输入令牌，相关响应总计为 1.5 万个 Anthropic Claude Instant 令牌和 2 万个 Anthropic Claude 2.1 令牌。
  
  此模型评估作业会产生以下费用：
  

  项目	输入令牌的数量	每 1000 个输入令牌的价格	输入成本	输出令牌的数量	每 1000 个输出令牌的价格	输出成本	人工任务数量	每项人工任务的价格	人工任务的成本	合计
  Claude Instant Inference	5000	0.0008 USD	0.0040 USD	15000	0.0024 USD	0.036 USD				0.04 USD
  Claude 2.1 Inference	5000	0.008 USD	0.0400 USD	20000	0.024 USD	0.48 USD				0.52 USD
  人工任务							100	0.21 USD	21.00 USD	21.00 USD
  合计										21.56 美元

• Amazon Bedrock 的防护机制

  示例 1：客户支持聊天机器人
  应用程序开发人员创建客户支持聊天机器人，使用内容过滤器屏蔽有害内容，使用被拒绝的话题来过滤不必要的查询和响应。
  
  聊天机器人每小时处理 1000 个用户查询。每个用户查询的平均输入长度为 200 个字符，收到 1500 个字符的 FM 响应。
  
  每个 200 个字符的用户查询对应 1 个文本单元。
  
  每个 1500 个字符的 FM 响应对应 2 个文本单元。
  
  每小时处理的文本单位 = (1 + 2) * 1000 个查询 = 3000 个文本单元
  
  内容过滤器和被拒绝的主题每小时产生的总费用 = 3000 *（0.75 美元 + 1.00 美元）/1000 = 5.25 美元

   

  示例 2：呼叫中心听录文本摘要
  应用程序开发人员创建了一个应用程序来总结用户和支持座席之间的聊天记录。它使用敏感信息过滤器来编辑 10000 个对话生成的摘要中的个人身份信息（PII）。
  
  生成的每个摘要平均包含 3500 个字符，对应 4 个文本单元。
  
  总结 10000 个对话所产生的总成本 = 10000 * 4 * (0.1/1000 美元) = 4 美元

  项目	输入令牌的数量	每 1000 个输入令牌的价格	输入成本	输出令牌的数量	每 1000 个输出令牌的价格	输出成本	人工任务数量	每项人工任务的价格	人工任务的成本	合计
  Claude Instant Inference	5000	0.0008 USD	0.004 USD	15000	0.0024 USD	0.036 USD				0.04 USD
  Claude 2.1 Inference	5000	0.008 USD	0.04 USD	20000	0.024 USD	0.48 USD				0.52 USD
  人工任务							100	0.21 USD	21.00 USD	21.00 USD
  合计										21.56 USD