Amazon API Gateway agora oferece suporte ao streaming de respostas para APIs REST
Agora, o Amazon API Gateway transmite progressivamente as cargas úteis de resposta aos clientes à medida que elas se tornam disponíveis. Isso melhora a capacidade de resposta da API REST ao eliminar a necessidade de armazenar respostas completas em buffer antes da transmissão. Esse novo recurso funciona com backends que permitem streaming, incluindo funções do Lambda, integrações de proxy HTTP e integrações privadas.
O streaming de resposta oferece três benefícios principais: melhor performance de time-to-first-byte (TTFB – tempo até o primeiro byte), tempos limite de integração estendidos de até 15 minutos e suporte para cargas úteis maiores que 10 MB. As aplicações de IA generativa se beneficiam particularmente do TTFB aprimorado, pois os usuários veem as respostas aparecerem de forma incremental em tempo real, enquanto modelos complexos focados em deliberações, que demoram mais para serem processados, agora podem ser executados com tempos limite estendidos. Além disso, o suporte a grandes cargas úteis permite o streaming direto de arquivos de mídia e grandes conjuntos de dados sem exigir soluções alternativas, como URLs pré-assinadas do Amazon S3.
Para saber mais sobre os preços desse atributo, consulte a página de preços do Amazon API Gateway. O streaming de resposta do Amazon API Gateway está disponível em todas as regiões da AWS, incluindo as regiões AWS GovCloud (EUA), e funciona com endpoints regionais, privados e otimizados para bordas. Para começar a usá-lo, acesse a documentação do Amazon API Gateway, o blog da AWS e as publicações do blog sobre sucesso do cliente.