Amazon CloudWatch Application Signals unterstützt jetzt Amazon Bedrock
Amazon CloudWatch Application Signals unterstützt jetzt Amazon Bedrock, sodass Benutzer Fehler und langsame Leistung in generativen KI-Anwendungen beheben können. Amazon Bedrock ist ein vollständig verwalteter Service, der von führenden KI-Unternehmen wie Anthropic, Meta und Amazon entwickelte Basismodelle (FMs) sowie andere Tools für die Entwicklung generativer KI-Anwendungen anbietet. Für Benutzer mit generativen KI-Anwendungen, die auf Bedrock-FMs basieren, bietet diese Erweiterung ein tieferes Verständnis dafür, wie sich Fehler wie Ausnahmen bei der Modellvalidierung oder wie Latenz in verschiedenen Modellen auf das Endbenutzererlebnis auswirken.
Application Signals bietet sofort einsatzbereite Dashboards zur Korrelation von Telemetriedaten für Metriken, Traces, Protokolle, Echtbenutzerüberwachung und synthetische Überwachung für Ihre Anwendung und ihre Abhängigkeiten, wie Amazon Simple Queue Service (SQS), Amazon S3 oder Amazon Bedrock, und beschleunigt so die Behebung von Anwendungsunterbrechungen. Beispielsweise kann ein Anwendungsentwickler mit einer LLM-Anwendung (Large Language Model), die Bedrock-FMs aufruft, verfolgen, ob bei seiner Kundensupport-API Probleme auftreten. Anschließend kann er die präzise korrelierte Ablaufverfolgung, die zum Fehler beigetragen hat, zusammen mit korrelierten Protokollen untersuchen, um die Ursache zu ermitteln, z. B. ungültige Modelleingaben oder lange Reaktionszeiten von LLM-Modellen, die zu einer schlechten Benutzererfahrung führen. Wenn Sie die Modellleistung in Ihrer Anwendung verfolgen, können Sie verschiedene Modelle evaluieren und das für Ihren Anwendungsfall am besten geeignete auswählen, um die Kosten und die Kundenerfahrung zu optimieren.
Weitere Informationen finden Sie in der Dokumentation zum Aktivieren von Amazon CloudWatch Application Signals für Ihre Anwendungen, die mit Amazon-Bedrock-Modellen interagieren. Um Application Signals an einer Beispielanwendung zu testen, besuchen Sie den AWS One Observability Workshop.