AWS Lambda amplía el compatibilidad con la transmisión de respuestas a todas las regiones comerciales de AWS
La transmisión de respuestas de AWS Lambda ya está disponible en todas las regiones comerciales de AWS, lo que brinda una paridad regional total para esta capacidad. Los clientes de las regiones recientemente admitidas pueden usar la API InvokeWithResponseStream para transmitir progresivamente las cargas útiles de respuestas a los clientes a medida que los datos estén disponibles.
La transmisión de respuestas permite que las funciones envíen respuestas parciales a los clientes de forma incremental, en lugar de almacenar en búfer toda la respuesta antes de la transmisión. Esto reduce la latencia del tiempo hasta el primer byte (time-to-first-byte, TTFB) y es ideal para cargas de trabajo sensibles a la latencia, como las aplicaciones basadas en modelos de lenguaje de gran tamaño (LLM) y las aplicaciones web y móviles, en las que los usuarios se benefician al ver que las respuestas aparecen de forma gradual. La transmisión de respuestas admite cargas útiles de hasta un máximo predeterminado de 200 MB.
Con esta ampliación, los clientes de todas las regiones comerciales pueden transmitir las respuestas mediante la API InvokeWithResponseStream a través de un SDK de AWS compatible, o mediante las API de REST de Amazon API Gateway con la transmisión de respuestas habilitada. La transmisión de respuestas admite versiones ejecutables administradas por Node.js, así como versiones ejecutables personalizadas.
La transmisión de respuestas conlleva un costo adicional por la transferencia de red de la carga útil de respuesta. La facturación depende la cantidad de bytes generados y transmitidos desde su función de Lambda durante los primeros 6 MB. Para empezar a usar la transmisión de respuestas de Lambda, consulte la documentación de AWS Lambda.