Amazon API Gateway kini mendukung streaming respons untuk API REST
Amazon API Gateway kini secara progresif mengalirkan payload respons ke klien saat tersedia. Ini meningkatkan responsivitas API REST dengan menghilangkan kebutuhan untuk menyangga respons lengkap sebelum transmisi. Kemampuan baru ini bekerja dengan backend yang mendukung streaming, termasuk fungsi Lambda, integrasi proxy HTTP, dan integrasi privat.
Streaming respons memberikan tiga manfaat utama: peningkatan kinerja time-to-first-byte (TTFB), batas waktu integrasi yang diperpanjang hingga 15 menit, dan dukungan untuk payload yang lebih besar dari 10 MB. Aplikasi AI generatif terutama mendapat manfaat dari peningkatan TTFB karena pengguna melihat respons muncul secara bertahap dalam waktu nyata, sementara model yang berfokus pada pertimbangan kompleks yang membutuhkan waktu lebih lama untuk diproses kini dapat berjalan dengan batas waktu yang diperpanjang. Selain itu, dukungan payload besar memungkinkan streaming langsung file media dan set data besar tanpa memerlukan solusi seperti URL Amazon S3 yang telah ditandatangani sebelumnya.
Untuk mempelajari tentang harga untuk fitur ini, silakan lihat halaman harga Amazon API Gateway. Streaming respons Amazon API Gateway tersedia di semua AWS Region, termasuk Region AWS GovCloud (AS), dan berfungsi dengan titik akhir regional, privat, dan yang dioptimalkan edge. Untuk memulai, kunjungi dokumentasi Amazon API Gateway, blog AWS, dan posting blog sukses pelanggan.