Định giá Amazon Bedrock

Ví dụ định giá

• AI21 labs

  Nhà phát triển ứng dụng thực hiện các lệnh gọi API sau tới Amazon Bedrock: Yêu cầu tới mô hình Jurrasic-2 Mid của AI21 để tóm tắt đầu vào gồm 10.000 token văn bản đầu vào thành đầu ra gồm 2.000 token.
  

  Tổng chi phí phát sinh = 10.000 token/1.000 * 0,0125 USD + 2.000 token/1.000 * 0,0125 USD = 0,15 USD
  

• Amazon

  Định giá theo nhu cầu

  Nhà phát triển ứng dụng thực hiện các lệnh gọi API sau tới Amazon Bedrock mỗi giờ: Yêu cầu tới mô hình Amazon Titan Text – Lite để tóm tắt đầu vào gồm 2.000 token văn bản đầu vào thành đầu ra gồm 1.000 token.

  Tổng chi phí phát sinh hàng giờ = 2.000 token/1.000 * 0,0003 USD + 1.000 token/1.000 * 0,0004 USD = 0,001 USD.

  Nhà phát triển ứng dụng thực hiện các lệnh gọi API sau tới Amazon Bedrock: Yêu cầu tới mô hình cơ sở của Trình tạo hình ảnh Titan để tạo 1.000 hình ảnh cỡ 1024 x 1024 với chất lượng tiêu chuẩn

  Tổng chi phí phát sinh = 1.000 hình ảnh * 0,01 USD trên mỗi hình ảnh = 10 USD

  Định giá tùy chỉnh (tinh chỉnh và đào tạo trước liên tục)

  Nhà phát triển ứng dụng tùy chỉnh mô hình Tạo hình ảnh Titan bằng 1.000 cặp hình ảnh – văn bản. Sau khi đào tạo, nhà phát triển sử dụng thông lượng được cung cấp của mô hình tùy chỉnh trong một giờ để đánh giá hiệu năng của mô hình. Mô hình đã tinh chỉnh được lưu trữ trong một tháng. Sau khi đánh giá, nhà phát triển sử dụng thông lượng được cung cấp (cam kết 1 tháng) để lưu trữ mô hình tùy chỉnh.

  Chi phí hàng tháng phát sinh cho hoạt động tinh chỉnh = Đào tạo tinh chỉnh (0,005 USD * 500 * 64), trong đó 0,005 USD là giá cho mỗi hình ảnh nhìn thấy, 500 là số bước và 64 là kích cỡ lô + lưu trữ mô hình tùy chỉnh mỗi tháng (1,95 USD) + một giờ suy luận mô hình tùy chỉnh (21 USD) = 160 USD + 1,95 USD + 21 = 182,95 USD
  

  Định giá thông lượng được cung cấp

  Nhà phát triển ứng dụng mua hai đơn vị mô hình Titan Text Express với cam kết 1 tháng cho trường hợp sử dụng tóm tắt văn bản của họ.

  Tổng chi phí phát sinh hàng tháng = 2 đơn vị mô hình * 18,40 USD/giờ * 24 giờ * 31 ngày = 27.379,20 USD

  Nhà phát triển ứng dụng mua một đơn vị mô hình của mô hình Trình tạo hình ảnh Titan cơ sở với cam kết 1 tháng.

  Tổng chi phí phát sinh = 1 * 16,20 USD * 24 giờ * 31 ngày = 12.052,80 USD

• Anthropic

  Định giá theo nhu cầu

  Nhà phát triển ứng dụng thực hiện các lệnh gọi API sau tới Amazon Bedrock trong khu vực Miền Tây Hoa Kỳ (Oregon): Yêu cầu tới mô hình Claude của Anthropic để tóm tắt đầu vào gồm 11.000 token văn bản đầu vào thành đầu ra gồm 4.000 token.

  Tổng chi phí phát sinh là 11.000 token/1.000 * 0,008 USD + 4.000 token/1.000 * 0,024 USD = 0,088 USD + 0,096 USD = 0,184 USD
  

  Định giá thông lượng được cung cấp

  Nhà phát triển ứng dụng mua một đơn vị mô hình Claude Instant của Anthropic trong khu vực Miền Tây Hoa Kỳ (Oregon):
  

  Tổng chi phí phát sinh hàng tháng = 1 đơn vị mô hình * 39,60 USD * 24 giờ * 31 ngày = 29.462,40 USD

• Cohere

  Định giá theo nhu cầu

  Nhà phát triển ứng dụng thực hiện các lệnh gọi API sau tới Amazon Bedrock: Yêu cầu tới mô hình Command của Cohere để tóm tắt đầu vào gồm 6.000 token văn bản đầu vào thành đầu ra gồm 2.000 token.

  Tổng chi phí phát sinh = 6.000 token/1.000 * 0,00150 USD + 2.000 token/1.000 * 0,0020 USD = 0,013 USD

  Nhà phát triển ứng dụng thực hiện các lệnh gọi API sau tới Amazon Bedrock: Yêu cầu tới mô hình Command-Light của Cohere để tóm tắt đầu vào gồm 6.000 token văn bản đầu vào thành đầu ra gồm 2.000 token.

  Tổng chi phí phát sinh = 6.000 token/1.000 * 0,0003 USD + 2.000 token/1.000 * 0,0006 USD = 0,003 USD

  Nhà phát triển ứng dụng thực hiện các lệnh gọi API sau tới Amazon Bedrock: Yêu cầu tới mô hình Embed tiếng Anh hoặc mô hình đa ngôn ngữ của Cohere để tạo ra các phần nhúng cho 10.000 token đầu vào.

  Tổng chi phí phát sinh = 10.000 token/1.000 * 0,0001 USD = 0,001 USD

  Định giá tùy chỉnh (tinh chỉnh)

  Nhà phát triển ứng dụng tùy chỉnh mô hình Command của Cohere bằng 1.000 token dữ liệu. Sau khi đào tạo, sử dụng thông lượng được cung cấp của mô hình tùy chỉnh trong một giờ để đánh giá hiệu năng của mô hình. Mô hình đã tinh chỉnh được lưu trữ trong một tháng. Sau khi đánh giá, nhà phát triển sử dụng thông lượng được cung cấp (cam kết 1 tháng) để lưu trữ mô hình tùy chỉnh.

  Chi phí phát sinh hàng tháng cho việc tinh chỉnh = Đào tạo tinh chỉnh (0,004 USD * 1.000) + lưu trữ mô hình tùy chỉnh mỗi tháng (1,95 USD) + một giờ suy luận mô hình tùy chỉnh (49,50 USD) = 55,45 USD
  

  Chi phí phát sinh hàng tháng cho thông lượng được cung cấp (cam kết 1 tháng) của mô hình tùy chỉnh = 39,60 USD

  Định giá thông lượng được cung cấp
  

  Nhà phát triển ứng dụng mua một đơn vị mô hình Command của Cohere với cam kết 1 tháng cho trường hợp sử dụng tóm tắt văn bản của họ.

  Tổng chi phí phát sinh hàng tháng = 1 đơn vị mô hình * 39,60 USD * 24 giờ * 31 ngày = 29.462,40 USD

• Meta

  Định giá theo nhu cầu

  Nhà phát triển ứng dụng thực hiện các lệnh gọi API sau tới Amazon Bedrock: Yêu cầu tới mô hình Llama 2 Chat (13B) của Meta để tóm tắt đầu vào gồm 2.000 token văn bản đầu vào thành đầu ra gồm 500 token.

  Tổng chi phí phát sinh = 2.000 token/1000 * 0,00075 USD + 500 token/1000 * 0,001 USD = 0,002 USD

  Định giá tùy chỉnh (tinh chỉnh)

  Nhà phát triển ứng dụng tùy chỉnh mô hình Llama 2 Pre-trained (70B) bằng 1.000 token dữ liệu. Sau khi đào tạo, sử dụng thông lượng được cung cấp của mô hình tùy chỉnh trong một giờ để đánh giá hiệu năng của mô hình. Mô hình đã tinh chỉnh được lưu trữ trong một tháng. Sau khi đánh giá, nhà phát triển sử dụng thông lượng được cung cấp (cam kết 1 tháng) để lưu trữ mô hình tùy chỉnh.

  Chi phí phát sinh hàng tháng cho việc tinh chỉnh = Đào tạo tinh chỉnh (0,00799 USD * 1.000) + lưu trữ mô hình tùy chỉnh mỗi tháng (1,95 USD) + một giờ suy luận mô hình tùy chỉnh (23,50 USD) = 33,44 USD

  Chi phí phát sinh hàng tháng cho thông lượng được cung cấp (cam kết 1 tháng) của mô hình tùy chỉnh = 21,18 USD

  Định giá thông lượng được cung cấp

  Nhà phát triển ứng dụng mua một đơn vị mô hình Llama 2 của Meta với cam kết 1 tháng cho trường hợp sử dụng tóm tắt văn bản của họ.

  Tổng chi phí phát sinh hàng tháng = 1 đơn vị mô hình * 21,20 USD * 24 giờ * 31 ngày = 15.772,8 USD

• Mistral AI

  Định giá Theo nhu cầu

  Nhà phát triển ứng dụng thực hiện các lệnh gọi API sau tới Amazon Bedrock mỗi giờ: Yêu cầu tới mô hình Mistral 7B để tóm tắt đầu vào gồm 2.000 token văn bản đầu vào thành đầu ra gồm 1.000 token.

  Tổng chi phí phát sinh hàng giờ = 2.000 token/1000 * 0,00015 USD + 1000 token/1.000 * 0,0002 USD = 0,0005 USD

  Nhà phát triển ứng dụng thực hiện các lệnh gọi API sau tới Amazon Bedrock mỗi giờ: Yêu cầu tới mô hình Mixtral 8x7B để tóm tắt đầu vào gồm 2.000 token văn bản đầu vào thành đầu ra gồm 1.000 token.

  Tổng chi phí phát sinh hàng giờ = 2.000 token/1.000 * 0,00045 USD + 1.000 token/1.000 * 0,0007 USD = 0,0016 USD

  Nhà phát triển ứng dụng thực hiện các lệnh gọi API sau tới Amazon Bedrock mỗi giờ: Yêu cầu tới mô hình Mistral Large để tóm tắt dữ liệu đầu vào gồm 2.000 token văn bản đầu vào thành đầu ra gồm 1.000 token. 

  Tổng chi phí phát sinh hàng giờ = 2.000 token/1.000 * 0,008 USD + 1.000 token/1.000 * 0,024 USD = 0,04 USD
  
  

• Stability AI

  Định giá Theo nhu cầu

  Nhà phát triển ứng dụng thực hiện các lệnh gọi API sau tới Amazon Bedrock: Yêu cầu tới mô hình SDXL để tạo hình ảnh cỡ 512 x 512 với kích thước bước là 70 (chất lượng cao)

  Tổng chi phí phát sinh = 1 hình ảnh * 0,036 USD mỗi hình ảnh = 0,036 USD

  Nhà phát triển ứng dụng thực hiện các lệnh gọi API sau tới Amazon Bedrock: Yêu cầu tới mô hình SDXL1.0 để tạo hình ảnh cỡ 1024 x 1024 với kích thước bước là 70 (chất lượng cao)

  Tổng chi phí phát sinh = 1 hình ảnh * 0,08 USD mỗi hình ảnh = 0,08 USD

  Định giá thông lượng được cung cấp

  Nhà phát triển ứng dụng mua một đơn vị mô hình của SDXL1.0 với cam kết 1 tháng.

  Tổng chi phí phát sinh = 1 * 49,86 USD * 24 giờ * 31 ngày = 37.095,84 USD