AWS Lambda がレスポンスストリーミングのサポートをすべての商用 AWS リージョンに拡大
AWS Lambda のレスポンスストリーミングがすべての商用 AWS リージョンで利用できるようになり、この機能はリージョン全体で同等になりました。新たにサポートされたリージョンのお客様は、InvokeWithResponseStream API を使用して、データが利用可能になると同時にレスポンスペイロードをクライアントにプログレッシブにストリーミングして戻すことができます。
レスポンスストリーミングにより、関数は送信前に応答全体をバッファリングするのではなく、部分的なレスポンスを段階的にクライアントに送信できます。これにより、Time to First Byte (TTFB) のレイテンシーが短縮され、LLM ベースのアプリケーションなど遅延の影響を受けやすいワークロードや、ユーザーがレスポンスを段階的に表示できることがメリットになるウェブアプリケーションやモバイルアプリケーションなどにとって最適です。レスポンスストリーミングは、デフォルトで最大 200 MB までのペイロードをサポートします。
この拡張により、すべての商用リージョンのお客様は、サポートされている AWS SDK を通じて InvokeWithResponseStream API を使用するか、レスポンスストリーミングが有効になっている Amazon API Gateway REST API を使用してレスポンスをストリーミングできるようになりました。レスポンスストリーミングは、Node.js マネージドランタイムとカスタムランタイムをサポートしています。
ストリーミングレスポンスでは、レスポンスペイロードのネットワーク転送に追加コストが発生します。Lambda 関数で生成されてストリーミングされたバイト数の最初の 6 MB を超える部分が請求の対象となります。 Lambda レスポンスストリーミングを開始するには、AWS Lambda のドキュメントをご覧ください。