Gateway Amazon API ora supporta lo streaming di risposte per le REST API
Gateway Amazon API ora trasmette progressivamente i payload di risposta ai clienti non appena diventano disponibili. Ciò migliora la reattività della REST API eliminando la necessità di bufferizzare le risposte complete prima della trasmissione. Questa nuova funzionalità funziona con i backend che supportano lo streaming, tra cui funzioni Lambda, integrazioni proxy HTTP e integrazioni private.
Lo streaming di risposta offre tre vantaggi principali: migliori prestazioni del time-to-first-byte (TTFB), timeout di integrazione estesi fino a 15 minuti e supporto per payload superiori a 10 MB. Le applicazioni di IA generativa traggono vantaggio in particolare del TTFB migliorato poiché gli utenti vedono le risposte apparire in modo incrementale in tempo reale, mentre i modelli complessi incentrati sulla deliberazione che richiedono più tempo per l'elaborazione possono ora essere eseguiti con timeout prolungati. Inoltre, il supporto per payload di grandi dimensioni consente lo streaming diretto di file multimediali e set di dati di grandi dimensioni senza richiedere soluzioni alternative come gli URL Amazon S3 prefirmati.
Per informazioni sui prezzi di questa funzionalità, consulta la pagina dei prezzi di Gateway Amazon API. Lo streaming di risposte di Gateway Amazon API è disponibile in tutte le regioni AWS, incluse le regioni AWS GovCloud (Stati Uniti) e funziona con endpoint regionali, privati e ottimizzati per l'edge. Per iniziare, consulta la documentazione di Gateway Amazon API, il blog AWS e i post del blog sul successo dei clienti.