Amazon Bedrock adiciona métricas do Amazon CloudWatch para APIs compatíveis com OpenAI e Anthropic
O Amazon Bedrock é um serviço totalmente gerenciado que fornece acesso seguro e de nível empresarial a modelos básicos de alta performance das principais empresas de IA, e permite criar e escalar aplicações de IA generativa. Os clientes do Amazon Bedrock agora podem monitorar o tráfego de inferência para o endpoint bedrock‑mantle com métricas do Amazon CloudWatch, da mesma forma que já fazem para o endpoint bedrock‑runtime e outros serviços da AWS. O endpoint bedrock-mantle oferece suporte à API OpenAI Responses, à API OpenAI Chat Completions e à API Anthropic Messages, o que permite aos clientes executar aplicações existentes baseadas na OpenAI ou Anthropic no Amazon Bedrock com o mínimo de alterações de código.
As métricas do CloudWatch para o endpoint bedrock‑mantle são publicadas no namespace AWS/BedrockMantle e incluem contagens de inferência, totais de tokens de entrada e saída e contagens de erros do cliente. As métricas são publicadas em vários níveis de detalhamento — incluindo conta, projeto, modelo e projeto‑mais‑modelo — permitindo que os clientes atribuam uso e custos às workloads e equipes corretas.
Com este lançamento, os clientes podem monitorar inferências em produção, configurar alarmes e planejar capacidade no endpoint bedrock‑mantle. Para começar, abra o console do Amazon CloudWatch, escolha Métricas e selecione o namespace AWS/BedrockMantle para visualizar as métricas da sua conta. As métricas do CloudWatch para o endpoint bedrock‑mantle estão disponíveis em todas as regiões da AWS que oferecem o endpoint: Leste dos EUA (Norte da Virginia, Ohio), Oeste dos EUA (Oregon), Ásia-Pacífico (Jacarta, Mumbai, Sydney, Tóquio), Europa (Frankfurt, Irlanda, Londres, Milão, Estocolmo) e América do Sul (São Paulo). Para saber mais, consulte as métricas do CloudWatch para o endpoint bedrock-mantle.