Amazon API Gateway unterstützt jetzt Response Streaming für REST-APIs
Amazon API Gateway streamt jetzt schrittweise Antwort-Nutzdaten an Clients, sobald sie verfügbar sind. Dies verbessert die Reaktionsfähigkeit der REST-API, da vollständige Antworten vor der Übertragung nicht mehr zwischengespeichert werden müssen. Diese neue Funktion funktioniert mit Backends, die Streaming unterstützen, einschließlich Lambda-Funktionen, HTTP-Proxy-Integrationen und privaten Integrationen.
Response Streaming bietet drei wichtige Vorteile: verbesserte TTFB-Leistung (Time-to-First-Byte), verlängerte Integrations-Timeouts von bis zu 15 Minuten und Unterstützung für Nutzdaten mit mehr als 10 MB. Generative KI-Anwendungen profitieren besonders von einer verbesserten TTFB, da die Benutzer sehen, wie Antworten schrittweise in Echtzeit angezeigt werden, während komplexe, auf Überlegungen ausgerichtete Modelle, deren Verarbeitung länger dauert, jetzt mit längeren Timeouts ausgeführt werden können. Darüber hinaus ermöglicht die Unterstützung großer Nutzdaten das direkte Streaming von Mediendateien und großen Datensätzen, ohne dass Behelfslösungen, wie vorsignierte Amazon S3-URLs, erforderlich sind.
Informationen zur Preisgestaltung für diese Funktion finden Sie auf der Amazon API Gateway-Seite mit Preisangaben. Das Amazon API Gateway Response Streaming ist in allen AWS-Regionen verfügbar, einschließlich der AWS GovCloud-Regionen (USA), und funktioniert mit regionalen, privaten und Edge-optimierten Endpunkten. Um loszulegen, lesen Sie die Dokumentation zu Amazon API Gateway, den AWS-Blogbeitrag und die Beiträge im Blog zu Kundenerfolgen.