AWS AppSync startet die KI-Gateway-Funktionen mit der neuen Amazon Bedrock-Integration in AppSync GraphQL ein
AWS AppSync, ein vollständig verwalteter API-Management-Service, der Anwendungen mit Ereignissen, Daten und KI-Modellen verbindet. Heute setzen Kunden auf AppSync als KI-Gateway, um generative KI-Workflows auszulösen, und verwenden von WebSockets-unterstützte Abonnements, um fortlaufende Aktualisierungen zu lang dauernden Aufrufen zurückzugeben. Dies erlaubt ihnen die Implementierung asynchroner Muster. In einigen Fällen jedoch müssen Kunden synchrone Aufrufe ihrer Modelle ausführen. AWS AppSync unterstützt jetzt die Amazon-Bedrock-Laufzeit als Datenquelle für GraphQL-APIs, was die nahtlose Integration generativer KI-Funktionen ermöglicht. Dieses neue Feature erlaubt es Entwicklern, kurze synchrone Aufrufe ( maximal 10 Sekunden) an Basismodelle und Inferenzprofile in Amazon Bedrock direkt über ihre AppSync GraphQL-APIs weiterzuleiten.
Die Integration unterstützt den Aufruf der Converse- und InvokeModel-APIs. Entwickler können für Datenanalysen und Aufgaben zur strukturierten Objektgenerierung mit Anthropic Modellen wie Claude 3.5 Haiku und Claude 3.5 Sonnet interagieren. Sie können Amazon-Titan-Modelle auch verwenden, um Einbettungen zu generieren, Zusammenfassungen zu erstellen oder Aktionspunkte aus Sitzungsprotokollen zu extrahieren.
Bei länger dauernden Aufrufen können Kunden die AWS-Lambda-Funktionen weiterhin im Ereignismodus verwenden, um mit Bedrock-Modellen zu interagieren und progressive Updates an Clients per Abonnements zukommen zu lassen.
Diese neue Datenquelle ist in allen AWS-Regionen verfügbar, in denen AWS AppSync verfügbar ist. Kunden können zunächst die AWS-AppSync-Konsole besuchen und die AWS-AppSync-Dokumentation für weitere Informationen konsultieren.