Generative KI-Beobachtbarkeit jetzt allgemein für Amazon CloudWatch verfügbar
Amazon CloudWatch kündigt die allgemeine Verfügbarkeit der generativen KI-Beobachtbarkeit an, mit der Sie alle Komponenten von KI-Anwendungen und Workloads überwachen können, einschließlich Kundendienstmitarbeiter, die mit Amazon Bedrock AgentCore bereitgestellt und betrieben werden. Diese Version geht über die Laufzeitüberwachung hinaus und bietet eine vollständige Beobachtbarkeit der integrierten Tools, Gateways, Speicher und Identitätsfunktionen von AgentCore. DevOps-Teams und Entwickler erhalten jetzt einen sofortigen Überblick über Latenz, Token-Nutzung, Fehler und Leistung in allen Komponenten ihrer KI-Workloads, von Modellaufrufen bis hin zu den Vorgängen der Kundendienstmitarbeiter. Dieses Feature ist mit gängigen generativen KI-Orchestrierungs-Frameworks wie Strands Agents, LangChain und LangGraph kompatibel und bietet Flexibilität bei der Wahl des Frameworks.
Mit dieser neuen Funktion ermöglicht CloudWatch Entwicklern die Analyse von Telemetriedaten über alle Komponenten einer generativen KI-Anwendung hinweg. Kunden können Codeausführungsmuster in integrierten Tools überwachen, die Erfolgsraten von API-Transformationen über Gateways verfolgen, Speicher- und Abrufmuster analysieren und sicheres Verhalten von Kundendienstmitarbeitern durch Beobachtbarkeit der Identität gewährleisten. Die vernetzte Ansicht hilft Entwicklern, Probleme schnell zu erkennen – von Lücken in VectorDB bis hin zu Authentifizierungsfehlern – und zwar anhand von End-to-End-Prompt-Tracing, kuratierten Metriken und Protokollen. Entwickler können ihre gesamte Kundendienstmitarbeiter-Flotte über den Bereich „AgentCore“ in der CloudWatch-Konsole überwachen, der sich nahtlos in andere CloudWatch-Funktionen wie Anwendungssignale, Alarme, Schutz sensibler Daten und Logs Insights integriert.
Diese Funktion ist verfügbar in USA Ost (Nord-Virginia), USA Ost (Ohio), USA West (Oregon), Europa (Frankfurt), Europa (Irland), Asien-Pazifik (Mumbai), Asien-Pazifik (Tokio), Asien-Pazifik (Singapur) und Asien-Pazifik (Sydney).
Weitere Informationen entnehmen Sie bitte der Dokumentation. Es gibt keine zusätzlichen Preise für die generativen KI-Beobachtbarkeit. Es gelten die bestehenden CloudWatch-Preise für die zugrunde liegenden Telemetriedaten.