AWS Lambda memperluas dukungan streaming respons ke semua AWS Region komersial
Streaming respons AWS Lambda sekarang tersedia di semua AWS Region komersial, menghadirkan paritas regional penuh untuk kemampuan ini. Pelanggan di Region yang baru didukung dapat menggunakan API InvokeWithResponseStream untuk secara bertahap mengirimkan payload respons kembali ke klien saat data tersedia.
Streaming respons memungkinkan fungsi untuk mengirim respons parsial ke klien secara bertahap, alih-alih menyimpan seluruh respons dalam buffer sebelum transmisi. Hal ini mengurangi latensi time-to-first-byte (TTFB) dan sangat cocok untuk beban kerja yang sensitif terhadap latensi seperti aplikasi berbasis LLM serta aplikasi web dan seluler di mana pengguna mendapat manfaat dari melihat respons muncul secara bertahap. Streaming respons mendukung payload data hingga maksimum default 200 MB.
Dengan perluasan ini, pelanggan di semua Region komersial dapat melakukan streaming respons menggunakan API InvokeWithResponseStream melalui AWS SDK yang didukung, atau melalui API REST Amazon API Gateway dengan streaming respons yang diaktifkan. Streaming respons mendukung runtime terkelola Node.js serta runtime kustom.
Respons streaming menimbulkan biaya tambahan untuk transfer jaringan payload respons. Anda akan ditagih berdasarkan jumlah byte yang dihasilkan dan dialirkan keluar dari fungsi Lambda Anda selama 6 MB pertama. Untuk memulai penggunaan streaming respons Lambda, kunjungi dokumentasi AWS Lambda.