Preços do Amazon Bedrock

Exemplos de preços

• AI21 Labs

  Um desenvolvedor de aplicações faz as seguintes chamadas de API para o Amazon Bedrock: uma solicitação ao modelo Jurrasic-2 Mid da AI21 para resumir uma entrada de 10.000 tokens de texto em uma saída de 2.000 tokens.
  

  Custo total acumulado = 10.000 tokens/1000 * USD 0,0125 + 2.000 tokens/1000 * USD 0,0125 = USD 0,15
  

• Amazon

  Preços sob demanda

  Um desenvolvedor de aplicações faz as seguintes chamadas de API para o Amazon Bedrock de hora em hora: uma solicitação ao modelo Amazon Titan Text Lite para resumir uma entrada de 2.000 tokens de texto em uma saída de 1.000 tokens.

  Custo total acumulado por hora = 2.000 tokens/1.000 * USD 0,0003 + 1.000 tokens/1.000 * USD 0,0004 = USD 0,001.

  Um desenvolvedor de aplicações faz as seguintes chamadas de API para o Amazon Bedrock: uma solicitação ao modelo de base do Gerador de imagens do Amazon Titan para gerar 1000 imagens de 1024 x 1024 em tamanho de qualidade padrão.

  Custo total acumulado = 1000 imagens * USD 0,01 por imagem = USD 10

  Preços para personalização (ajuste fino e pré-treinamento contínuo)

  Um desenvolvedor de aplicações personaliza um modelo Gerador de imagens do Amazon Titan usando 1.000 pares de imagem e texto. Após o treinamento, o desenvolvedor usa o throughput provisionado do modelo personalizado por 1 hora para avaliar a performance desse modelo. O modelo ajustado é armazenado por 1 mês. Após a avaliação, o desenvolvedor usa o throughput provisionado (compromisso de 1 mês) para hospedar o modelo personalizado.

  Custo mensal do ajuste fino = treinamento de ajuste fino (USD 0,005 * 500 * 64), em que USD 0,005 é o preço por imagem vista, 500 é o número de etapas e 64 é o tamanho do lote + armazenamento de modelo personalizado por mês (USD 1,95) + 1 hora de inferência de modelo personalizado (USD 21) = USD 160 + USD 1,95 + USD 21 = USD 182,95
  

  Preços para throughput provisionado

  Um desenvolvedor de aplicações compra duas unidades de modelo do Amazon Titan Text Express com um compromisso de 1 mês para seu caso de uso de resumo de texto.

  Custo mensal total acumulado = 2 unidades do modelo * USD 18,40/hora * 24 horas * 31 dias = USD 27.379,20

  Um desenvolvedor de aplicações compra uma unidade de modelo do modelo de base do Gerador de imagens do Amazon Titan com compromisso de 1 mês.

  Custo total incorrido = 1 unidade do modelo * USD 16,20 * 24 horas* 31 dias = USD 12.052,80

• Anthropic

  Preços sob demanda

  Um desenvolvedor de aplicações faz as seguintes chamadas de API para o Amazon Bedrock na região Oeste dos EUA (Oregon): uma solicitação ao modelo Claude da Anthropic para resumir uma entrada de 11.000 tokens de texto em uma saída de 4.000 tokens.

  O custo total acumulado é de 11.000 tokens/1000 * USD 0,008 + 4.000 tokens/1000 * USD 0,024 = USD 0,088 + USD 0,096 = USD 0,184
  

  Preços para throughput provisionado

  Um desenvolvedor de aplicações compra uma unidade de modelo do Claude Instant da Anthropic na região Oeste dos EUA (Oregon):
  

  O custo mensal total acumulado é de 1 unidade de modelo * USD 39,60 * 24 horas * 31 dias = USD 29.462,40

• Cohere

  Preços sob demanda

  Um desenvolvedor de aplicações faz as seguintes chamadas de API para o Amazon Bedrock: uma solicitação ao modelo Command da Cohere para resumir uma entrada de 6.000 tokens de texto em uma saída de 2.000 tokens.

  O custo total incorrido é = 6.000 tokens/1.000 * USD 0,0015 + 2.000 tokens/1.000 * USD 0,0020 = USD 0,013

  Um desenvolvedor de aplicações faz as seguintes chamadas de API para o Amazon Bedrock: uma solicitação ao modelo Command-Light da Cohere para resumir uma entrada de 6.000 tokens de texto de entrada em uma saída de 2.000 tokens.

  Custo total acumulado = 6.000 tokens/1000 * USD 0,0003 + 2.000 tokens/1000 * USD 0,0006 = USD 0,003

  Um desenvolvedor de aplicações faz as seguintes chamadas de API para o Amazon Bedrock: um solicitação ao modelo Embed em inglês ou Embed multilíngue da Cohere para gerar incorporações para 10.000 tokens de entrada.

  Custo total acumulado = 10.000 tokens/1000 * USD 0,0001 = USD 0,001

  Preços para personalização (ajuste fino)

  Um desenvolvedor de aplicações personaliza um modelo Command da Cohere usando 1000 tokens de dados. Após o treinamento, ele usa o throughput provisionado do modelo personalizado por 1 hora para avaliar a performance desse modelo. O modelo ajustado é armazenado por 1 mês. Após a avaliação, o desenvolvedor usa o throughput provisionado (compromisso de 1 mês) para hospedar o modelo personalizado.

  O custo mensal do ajuste fino é: treinamento de ajuste fino (USD 0,004 * 1000) + armazenamento de modelos personalizados por mês (USD 1,95) + 1 hora de inferência de modelo personalizado (USD 49,50) = USD 55,45
  

  Custo mensal acumulado para throughput provisionado (compromisso de 1 mês) do modelo personalizado = USD 39,60

  Preços para throughput provisionado
  

  Um desenvolvedor de aplicações compra uma unidade de modelo do Command da Cohere com um compromisso de 1 mês para seu caso de uso de resumo de texto.

  O custo mensal total acumulado é de 1 unidade de modelo * USD 39,60 * 24 horas * 31 dias = USD 29.462,40

• Meta Llama

  Preços sob demanda

  Um desenvolvedor de aplicações faz as seguintes chamadas de API para o Amazon Bedrock: uma solicitação ao modelo Llama 2 Chat (13B) da Meta para resumir uma entrada de 2.000 tokens de texto de entrada em uma saída de 500 tokens.

  Custo total acumulado = 2.000 tokens/1000 * USD 0,00075 + 500 tokens/1000 * USD 0,001 = USD 0,002

  Preços para personalização (ajuste fino)

  Um desenvolvedor de aplicações personaliza o modelo pré-treinado do Llama 2 (70B) usando 1000 tokens de dados. Após o treinamento, ele usa o throughput provisionado do modelo personalizado por 1 hora para avaliar a performance desse modelo. O modelo ajustado é armazenado por 1 mês. Após a avaliação, o desenvolvedor usa o throughput provisionado (compromisso de 1 mês) para hospedar o modelo personalizado.

  O custo mensal do ajuste fino é: treinamento de ajuste fino (USD 0,00799 * 1000) + armazenamento de modelo personalizado por mês (USD 1,95) + 1 hora de inferência de modelo personalizado (USD 23,50) = USD 33,44

  Custo mensal acumulado para throughput provisionado (compromisso de 1 mês) do modelo personalizado = USD 21,18

  Preços para throughput provisionado

  Um desenvolvedor de aplicações compra uma unidade de modelo do Meta Llama 2 com um compromisso de 1 mês para seu caso de uso de resumo de texto.

  O custo mensal total acumulado é de 1 unidade de modelo * USD 21,18 * 24 horas * 31 dias = USD 15.757,92

• Mistral AI

  Preços sob demanda

  Um desenvolvedor de aplicações faz as seguintes chamadas de API para o Amazon Bedrock de hora em hora: uma solicitação ao modelo Mistral 7B para resumir uma entrada de 2.000 tokens de texto em uma saída de 1.000 tokens.

  Custo total acumulado por hora = 2.000 tokens/1000 * USD 0,00015 + 1000 tokens/1.000 * USD 0,0002 = USD 0,0005

  Um desenvolvedor de aplicações faz as seguintes chamadas de API para o Amazon Bedrock de hora em hora: uma solicitação ao modelo Mistral 8x7B para resumir uma entrada de 2.000 tokens de texto em uma saída de 1.000 tokens.

  Custo total acumulado por hora = 2.000 tokens/1000 * USD 0,00045 + 1000 tokens/1.000 * USD 0,0007 = USD 0,0016

  Um desenvolvedor de aplicações faz as seguintes chamadas de API para o Amazon Bedrock de hora em hora: uma solicitação ao modelo Mistral Large para resumir uma entrada de 2.000 tokens de texto de entrada em uma saída de 1.000 tokens. 

  O custo total por hora incorrido é = 2.000 tokens/1000 * USD 0,008 + 1.000 tokens/1000 * USD 0,024 = USD 0,04
  
  

• Stability AI

  Preços sob demanda

  Um desenvolvedor de aplicações faz as seguintes chamadas de API para o Amazon Bedrock: uma solicitação ao modelo SDXL para gerar uma imagem de 512 x 512 em gradações de 70 (qualidade premium).

  Custo total acumulado = 1 imagem * USD 0,036 por imagem = USD 0,036

  Um desenvolvedor de aplicações faz as seguintes chamadas de API para o Amazon Bedrock: uma solicitação ao modelo SDXL 1.0 para gerar uma imagem de 1024 X 1024 em gradações de 70 (qualidade premium).

  Custo total acumulado = 1 imagem * USD 0,08 por imagem = USD 0,08

  Preços para throughput provisionado

  Um desenvolvedor de aplicações compra uma unidade de modelo do SDXL 1.0 com compromisso de 1 mês.

  Custo total acumulado = 1 * USD 49,86 * 24 horas * 31 dias = USD 37.095,84

• Avaliação do modelo

  Exemplo de avaliação de modelo 1:

  Preços sob demanda
  Um desenvolvedor de aplicações envia um conjunto de dados para avaliação de modelos baseada em humanos usando o Anthropic Claude 2.1 e o Anthropic Claude Instant na região da AWS Leste dos EUA (Norte da Virgínia).

  O conjunto de dados contém 50 solicitações e o desenvolvedor exige que 1 pessoa avalie cada conjunto de prompts de resposta (configurável na criação do trabalho de avaliação como parâmetro “pessoas por prompt”).
  
  Haverá 50 tarefas neste trabalho de avaliação (uma tarefa para cada conjunto de prompt-resposta por cada trabalhador). As 50 solicitações combinam até 5.000 tokens de entrada, e as respostas associadas combinam 15.000 tokens para o Anthropic Claude Instant e 20.000 tokens para o Anthropic Claude 2.1.
  
  As seguintes cobranças são cobradas por esse trabalho de avaliação de modelo:

  Item	Número de tokens de entrada	Preço por 1.000 tokens de entrada	Custo da entrada	Número de tokens de saída	Preço por 1.000 tokens de saída	Custo de produção	Número de tarefas humanas	Preço por tarefa humana	Custo das tarefas humanas	Total
  Inferência instantânea de Claude	5.000	USD 0,0008	USD 0,004	15.000	USD 0,0024	USD 0,036				USD 0,04
  Inferência do Claude 2.1	5.000	USD 0,008	USD 0,04	20.000	USD 0,024	USD 0,48				USD 0,52
  Tarefas humanas							50	USD 0,21	USD 10,50	USD 10,50
  Total										USD 11,06

  Exemplo de avaliação de modelo 2:

  Preços sob demanda
  Um desenvolvedor de aplicações envia um conjunto de dados para avaliação de modelos baseada em humanos usando o Anthropic Claude 2.1 e o Anthropic Claude Instant na região da AWS Leste dos EUA (Norte da Virgínia).
  
  O conjunto de dados contém 50 solicitações e o desenvolvedor exige que dois trabalhadores avaliem cada conjunto de prompts de resposta (configurável na criação do trabalho de avaliação como parâmetro “trabalhadores por prompt”). Haverá 100 tarefas neste trabalho de avaliação (1 tarefa para cada conjunto de resposta de prompt por cada trabalhador: 2 trabalhadores x 50 conjuntos de respostas de prompt = 100 tarefas humanas).
  
  As 50 solicitações combinam até 5.000 tokens de entrada, e as respostas associadas combinam 15.000 tokens para o Anthropic Claude Instant e 20.000 tokens para o Anthropic Claude 2.1.
  
  As seguintes cobranças são cobradas por esse trabalho de avaliação de modelo:
  

  Item	Número de tokens de entrada	Preço por 1.000 tokens de entrada	Custo da entrada	Número de tokens de saída	Preço por 1.000 tokens de saída	Custo de produção	Número de tarefas humanas	Preço por tarefa humana	Custo das tarefas humanas	Total
  Inferência instantânea de Claude	5.000	0,0008 USD	USD 0,0040	15.000	USD 0,0024	USD 0,036				USD 0,04
  Inferência do Claude 2.1	5.000	USD 0,008	USD 0,0400	20.000	USD 0,024	USD 0,48				USD 0,52
  Tarefas humanas							100	USD 0,21	USD 21,00	USD 21,00
  Total										USD 21,56

• Barreiras de proteção para Amazon Bedrock

  Exemplo 1: chatbot de suporte ao cliente
  Um desenvolvedor de aplicações cria um chatbot de suporte ao cliente e usa filtros de conteúdo para bloquear conteúdo nocivo e tópicos negados para filtrar consultas e respostas indesejáveis.
  
  O chatbot atende a 1.000 consultas de usuários por hora. Cada consulta do usuário tem um tamanho médio de entrada de 200 caracteres e recebe uma resposta FM com 1.500 caracteres.
  
  Cada consulta do usuário de 200 caracteres corresponde a 1 unidade de texto.
  
  Cada resposta FM de 1.500 caracteres corresponde a 2 unidades de texto.
  
  Unidades de texto processadas a cada hora = (1 + 2) * 1.000 consultas = 3.000 unidades de texto
  
  Custo total incorrido por hora com filtros de conteúdo e tópico negado = 3.000 * (USD 0,75 + USD 1,00)/1.000 = USD 5,25

   

  Exemplo 2: resumo de transcrição do call center
  Um desenvolvedor de aplicações cria uma aplicação para resumir as transcrições de chat entre usuários e atendentes de suporte. Ele usa filtro de informações confidenciais para omitir informações de identificação pessoal (PII) nos resumos gerados para 10.000 conversas.
  
  Cada resumo gerado tem uma média de 3.500 caracteres que correspondem a 4 unidades de texto.
  
  Custo total incorrido para resumir 10.000 conversas = 10.000 * 4 * (0,1/1000) = USD 4

  Item	Número de tokens de entrada	Preço por 1.000 tokens de entrada	Custo da entrada	Número de tokens de saída	Preço por 1.000 tokens de saída	Custo de produção	Número de tarefas humanas	Preço por tarefa humana	Custo das tarefas humanas	Total
  Inferência instantânea de Claude	5.000	USD 0,0008	USD 0,004	15.000	USD 0,0024	USD 0,036				USD 0,04
  Inferência do Claude 2.1	5.000	USD 0,008	USD 0,04	20.000	USD 0,024	USD 0,48				USD 0,52
  Tarefas humanas							100	USD 0,21	USD 21,00	USD 21,00
  Total										USD 21,56