Amazon Bedrock fügt Amazon CloudWatch-Metriken für OpenAI- und Anthropic-kompatible APIs hinzu
Amazon Bedrock ist ein vollständig verwalteter Service, der sicheren, unternehmensgerechten Zugriff auf leistungsstarke Basismodelle führender KI-Unternehmen bietet und es Ihnen ermöglicht, generative KI-Anwendungen zu erstellen und zu skalieren. Amazon Bedrock-Kunden können jetzt den Inferenzverkehr zum Bedrock-Mantle-Endpunkt mit Amazon CloudWatch-Metriken überwachen, genauso wie sie es bereits für den Bedrock-Runtime-Endpunkt und andere AWS-Services tun. Der Bedrock-Mantle-Endpunkt unterstützt die OpenAI Responses API, OpenAI Chat Completions API und die Anthropic Messages API, sodass Kunden bestehende OpenAI- oder Anthropic-basierte Anwendungen auf Amazon Bedrock mit minimalen Codeänderungen ausführen können.
CloudWatch-Metriken für den Bedrock-Mantle-Endpunkt werden unter dem AWS/BedrockMantle-Namespace veröffentlicht und umfassen Inferenzzahlen, die Gesamtzahl von Eingabe- und Ausgabetokens sowie die Anzahl von Client-Fehlern. Metriken werden auf mehreren Granularitätsebenen veröffentlicht, darunter Konto, Projekt, Modell sowie Projekt und Modell, sodass Kunden Nutzung und Kosten den richtigen Workloads und Teams zuordnen können.
Mit diesem Launch können Kunden die Inferenz in Produktionsumgebungen überwachen, Alarme einrichten und Kapazitäten für den Bedrock-Mantle-Endpunkt planen. Öffnen Sie zunächst die Amazon CloudWatch-Konsole, wählen Sie „Metriken“ und dann den AWS/BedrockMantle-Namespace aus, um die Metriken für Ihr Konto anzuzeigen. CloudWatch-Metriken für den Bedrock-Mantle-Endpunkt sind in allen AWS-Regionen verfügbar, in denen der Endpunkt angeboten wird: USA Ost (Nord-Virginia, Ohio), USA West (Oregon), Asien-Pazifik (Jakarta, Mumbai, Sydney, Tokio), Europa (Frankfurt, Irland, London, Mailand, Stockholm) und Südamerika (São Paulo). Weitere Informationen finden Sie unter CloudWatch-Metriken für den Bedrock-Mantle-Endpunkt.