Amazon Bedrock 定價

定價範例

• AI21 Labs

  應用程式開發人員針對 Amazon Bedrock 發出下列 API 呼叫：要求 AI21 的 Jurassic-2 Mid 模型將輸入文字的 10,000 個字符輸入結果，總結為 2000 個字符的輸出結果。
  

  產生的總成本 = 10,000 個字符/1000 * 0.0125 USD + 2000 個字符/1000 * 0.0125 USD = 0.15 USD
  

• Amazon

  隨需定價

  應用程式開發人員針對 Amazon Bedrock 每小時發出下列 API 呼叫：要求 Amazon Titan Text Lite 模型將輸入文字的 2000 個字符輸入結果，總結為 1000 個字符的輸出結果。

  每小時產生的總成本 = 2000 個字符/1000 * 0.0003 USD + 1000 個字符/1000 * 0.0004 USD = 0.001 USD。

  應用程式開發人員針對 Amazon Bedrock 發出下列 API 呼叫：要求 Amazon Titan 影像產生器模型產生 1000 個 1024 x 1024 大小的標準品質映像。

  產生的總成本 = 1000 個映像 * 每個映像 0.01 USD = 10 USD

  自訂 (微調和持續預先訓練) 定價

  應用程式開發人員使用 1000 個影像/文字配對自訂 Amazon Titan 影像產生模型。訓練後，開發人員會使用自訂模型佈建輸送量 1 小時來評估模型的效能。微調的模型會儲存 1 個月。評估後，開發人員會使用佈建輸送量 (1 個月使用期) 來託管自訂模型。

  每月微調成本為：微調訓練 (0.005 * 500 * 64 USD)，其中 0.005 USD 是每張看到之影像的定價，500 是步驟數，64 是批次大小 + 每月自訂模型儲存 (1.95 USD) + 1 小時自訂模型推論 (21 USD) = 160 + 1.95 + 21 USD = 182.95 USD
  

  佈建輸送量定價

  應用程式開發人員購買兩個 Amazon Titan Text Express 模型單元，且其文字摘要使用案例的期限為 1 個月。

  每月產生的總成本 = 2 個模型單元 * 18.40 USD/小時 * 24 小時 * 31 天 = 27,379.20 USD

  應用程式開發人員購買一個基礎 Amazon Titan 影像產生器模型的模型單元，且使用期限為 1 個月。

  產生的總成本 = 1 個模型單元 * 16.20 USD * 24 小時 * 31 天 = 12,052.80 USD

• Anthropic

  隨需定價

  應用程式開發人員針對美國西部 (奧勒岡) 地區的 Amazon Bedrock 發出下列 API 呼叫：要求 Anthropic 的 Claude 模型將輸入文字的 11,000 個字符輸入結果，總結為 4000 個字符的輸出結果。

  產生的總成本 = 11,000 個字符/1000 * 0.008 USD + 4000 個字符/1000 * 0.024 USD = 0.088 USD + 0.096 USD = 0.184 USD
  

  佈建輸送量定價

  應用程式開發人員在美國西部 (奧勒岡) 地區購買一個 Anthropic Claude Instant 的模型單元：
  

  每月產生的總成本 = 1 個模型單元 * 39.60 USD * 24 小時 * 31 天 = 29,462.40 USD

• Cohere

  隨需定價

  應用程式開發人員針對 Amazon Bedrock 發出下列 API 呼叫：要求 Cohere 的 Command 模型將輸入文字的 6000 個字符輸入結果，總結為 2000 個字符的輸出結果。

  產生的總成本 = 6000 個字符/1,000 * 0.0015 USD + 2000 個字符/1,000 * 0.0020 USD = 0.013 USD

  應用程式開發人員針對 Amazon Bedrock 發出下列 API 呼叫：要求 Cohere 的 Command - Light 模型將輸入文字的 6000 個字符輸入結果，總結為 2000 個字符的輸出結果。

  產生的總成本 = 6000 個字符/1000 * 0.0003 USD + 2000 個字符/1000 * 0.0006 USD = 0.003 USD

  應用程式開發人員針對 Amazon Bedrock 發出下列 API 呼叫：要求 Cohere 的 Embed English 或 Embed Multilingual 模型產生 10,000 個字符輸入結果的嵌入。

  產生的總成本 = 10,000 個字符/1000 * 0.0001 USD = 0.001 USD

  自訂 (微調) 定價

  應用程式開發人員使用 1000 個資料字符自訂 Cohere Command 模型。訓練後，使用自訂模型佈建輸送量 1 小時來評估模型的效能。微調的模型會儲存 1 個月。評估後，開發人員會使用佈建輸送量 (1 個月使用期) 來託管自訂模型。

  微調每月產生的成本為：微調訓練 (0.004 USD * 1000) + 每月自訂模型儲存 (1.95 USD) + 1 小時自訂模型推論 (49.50 USD) = 55.45 USD
  

  自訂模型的佈建輸送量 (1 個月使用期) 產生的每月成本 = 39.60 USD

  佈建輸送量定價
  

  應用程式開發人員購買一個 Cohere Command 模型單元，且其文字摘要使用案例的期限為 1 個月。

  每月產生的總成本 = 1 個模型單元 * 39.60 USD * 24 小時 * 31 天 = 29,462.40 USD

• Meta Llama

  隨需定價

  應用程式開發人員針對 Amazon Bedrock 發出下列 API 呼叫：要求 Meta 的 Llama 2 Chat (130 億) 模型將輸入文字的 2000 個字符輸入結果，總結為 500 個字符的輸出結果。

  產生的總成本 = 2000 個字符/1000 * 0.00075 USD + 500 個字符/1000 * 0.001 USD = 0.002 USD

  自訂 (微調) 定價

  應用程式開發人員使用 1000 個資料字符自訂 Llama 2 預先訓練 (700 億) 模型。訓練後，使用自訂模型佈建輸送量 1 小時來評估模型的效能。微調的模型會儲存 1 個月。評估後，開發人員會使用佈建輸送量 (1 個月使用期) 來託管自訂模型。

  微調每月產生的成本為：微調訓練 (0.00799 USD * 1000) + 每月自訂模型儲存 (1.95 USD) + 1 小時自訂模型推論 (23.50 USD) = 33.44 USD

  自訂模型的佈建輸送量 (1 個月使用期) 產生的每月成本 = 21.18 USD

  佈建輸送量定價

  應用程式開發人員購買一個 Meta Llama 2 模型單元，且其文字摘要使用案例的期限為 1 個月。

  每月產生的總成本為 1 個模型單元 * 21.18 USD * 24 小時 * 31 天 = 15,757.92 USD

• Mistral AI

  隨需定價

  應用程式開發人員針對 Amazon Bedrock 每小時發出下列 API 呼叫：要求 Mistral 7B 模型將輸入文字的 2000 個字符輸入結果，總結為 1000 個字符的輸出結果。

  每小時產生的總成本 = 2000 個字符/1000 * 0.00015 USD + 1000 個字符/1000 * 0.0002 USD = 0.0005 USD

  應用程式開發人員針對 Amazon Bedrock 每小時發出下列 API 呼叫：要求 Mixtral 8x7B 模型將輸入文字的 2000 個字符輸入結果，總結為 1000 個字符的輸出結果。

  每小時產生的總成本 = 2000 個字符/1000 * 0.00045 USD + 1000 個字符/1000 * 0.0007 USD = 0.0016 USD

  應用程式開發人員針對 Amazon Bedrock 每小時發出下列 API 呼叫：要求 Mistral 大型模型將輸入文字的 2000 個字符輸入結果，總結為 1000 個字符的輸出結果。 

  每小時產生的總成本 = 2000 個字符/1000 * 0.008 USD + 1000 個字符/1000 * 0.024 USD = 0.04 USD
  
  

• Stability AI

  隨需定價

  應用程式開發人員針對 Amazon Bedrock 發出下列 API 呼叫：要求 SDXL 模型產生 512 x 512 大小、步長為 70 的映像 (高品質)。

  產生的總成本 = 1 個映像 * 每個映像 0.036 USD = 0.036 USD

  應用程式開發人員針對 Amazon Bedrock 發出下列 API 呼叫：要求 SDXL 1.0 模型產生 1024 x 1024 大小、步長為 70 的映像 (高品質)。

  產生的總成本 = 1 個映像 * 每個映像 0.08 USD = 0.08 USD

  佈建輸送量定價

  應用程式開發人員購買一個 SDXL 1.0 模型單元，且使用期為 1 個月。

  產生的總成本 = 1 * 49.86 USD * 24 小時 * 31 天 = 37,095.84 USD

• 模型評估

  模型評估範例 1︰

  隨需定價
  應用程式開發人員在美國東部 (維吉尼亞北部) AWS 區域使用 Anthropic Claude 2.1 和 Anthropic Claude Instant，提交資料集進行人工模型評估。

  資料集包含 50 個提示，開發人員需要 1 名工作者對每個提示回應集進行評分 (可在建立評估任務時設定為「每個提示的工作者」參數)。
  
  此評估任務中將有 50 項任務 (每位工作者每個提示回應組為 1 項任務)。50 個提示共計為 5000 個輸入字符，相關的回應共計 15000 個字符 (使用 Anthropic Claude Instant) 和 20000 個字符 (使用 Anthropic Claude 2.1)。
  
  此模型評估任務會產生下列費用：

  項目	輸入字符數	每 1,000 個輸入字符的定價	輸入成本	輸出字符數	每 1,000 個輸出字符的定價	輸出成本	人工任務數目	每項人工任務的價格	人工任務的成本	總計
  Claude Instant Inference	5000	0.0008 USD	0.004 USD	15,000	0.0024 USD	0.036 USD				0.04 USD
  Claude 2.1 Inference	5000	0.008 USD	0.04 USD	20,000	0.024 USD	0.48 USD				0.52 USD
  人工任務							50	0.21 USD	10.50 USD	10.50 USD
  總計										11.06 USD

  模型評估範例 2︰

  隨需定價
  應用程式開發人員在美國東部 (維吉尼亞北部) AWS 區域使用 Anthropic Claude 2.1 和 Anthropic Claude Instant，提交資料集進行人工模型評估。
  
  資料集包含 50 個提示，開發人員需要 2 名工作者對每個提示回應集進行評分 (可在建立評估任務時設定為「每個提示的工作者」參數)。此評估任務中將有 100 項任務 (每位工作者每個提示回應組為 1 項任務：2 個工作者 x 50 個快速回應集 = 100 個人工任務)。
  
  50 個提示共計為 5000 個輸入字符，相關的回應共計 15000 個字符 (使用 Anthropic Claude Instant) 和 20000 個字符 (使用 Anthropic Claude 2.1)。
  
  此模型評估任務會產生下列費用：
  

  項目	輸入字符數	每 1,000 個輸入字符的定價	輸入成本	輸出字符數	每 1,000 個輸出字符的定價	輸出成本	人工任務數目	每項人工任務的價格	人工任務的成本	總計
  Claude Instant Inference	5000	0.0008 USD	0.0040 USD	15000	0.0024 USD	0.036 USD				0.04 USD
  Claude 2.1 Inference	5000	0.008 USD	0.0400 USD	20,000	0.024 USD	0.48 USD				0.52 USD
  人工任務							100	0.21 USD	21.00 USD	21.00 USD
  總計										21.56 USD

• Amazon Bedrock 防護機制

  範例 1：客戶支援聊天機器人
  一名應用程式開發人員建立了一個客戶支援聊天機器人，並使用內容過濾器封鎖有害內容和拒絕主題，以過濾不想要的查詢和回應。
  
  聊天機器人每小時提供 1000 個用戶查詢。每個使用者查詢的平均輸入長度為 200 個字元，並接收 1500 個字元的 FM 回應。
  
  每個 200 個字元的使用者查詢對應於 1 個文字單元。
  
  每個 1500 個字元的 FM 回應對應於 2 個文字單元。
  
  每小時處理的文字單元 = (1 + 2) * 1000 個查詢 = 3000 個文字單元
  
  內容過濾器和拒絕主題每小時產生的總成本 = 3000 * (0.75 USD + 1.00 USD) /1000 = 5.25 USD

   

  範例 2：呼叫中心轉錄摘要
  一名應用程式開發人員建立了一個應用程式，以彙總使用者與客服人員之間的聊天記錄。它使用敏感信息過濾器編輯 10,000 個對話的生成摘要中的個人身分識別資訊 (PII)。
  
  每個生成的摘要平均有 3500 個字元，對應於 4 個文字單元。
  
  總結 10,000 次對話所產生的總成本 = 10000 * 4 * (0.1/1000 USD) = 4 USD

  項目	輸入字符數	每 1,000 個輸入字符的定價	輸入成本	輸出字符數	每 1,000 個輸出字符的定價	輸出成本	人工任務數目	每項人工任務的價格	人工任務的成本	總計
  Claude Instant Inference	5000	0.0008 USD	0.004 USD	15,000	0.0024 USD	0.036 USD				0.04 USD
  Claude 2.1 Inference	5000	0.008 USD	0.04 USD	20,000	0.024 USD	0.48 USD				0.52 USD
  人工任務							100	0.21 USD	21.00 USD	21.00 USD
  總計										21.56 USD