Amazon API Gateway prend désormais en charge la diffusion de réponses pour les API REST
Amazon API Gateway diffuse désormais progressivement les données utiles de réponse aux clients au fur et à mesure de leur disponibilité. Cela améliore la réactivité de l'API REST en éliminant la nécessité de mettre en mémoire tampon les réponses complètes avant la transmission. Cette nouvelle fonctionnalité fonctionne avec les backends qui prennent en charge la diffusion, notamment les fonctions Lambda, les intégrations de proxy HTTP et les intégrations privées.
La diffusion de réponse offre trois avantages clés : une amélioration des performances TTFB (délai jusqu’au premier octet), des délais d'intégration prolongés jusqu'à 15 minutes et la prise en charge des données utiles supérieures à 10 Mo. Les applications d'IA générative bénéficient particulièrement de l'amélioration du TTFB, car les utilisateurs voient les réponses apparaître de manière incrémentielle en temps réel, tandis que les modèles complexes axés sur les délibérations qui prennent plus de temps à traiter peuvent désormais être exécutés avec des délais d'attente prolongés. En outre, la prise en charge de données utiles importantes permet la diffusion directe de fichiers multimédia et de grands jeux de données sans nécessiter de solutions de contournement telles que des URL Amazon S3 pré-signées.
Pour en savoir plus sur la tarification de cette caractéristique, consultez la page de tarification d'Amazon API Gateway. La diffusion des réponses Amazon API Gateway est disponible dans toutes les régions AWS, y compris les régions AWS GovCloud (US), et fonctionne avec des points de terminaison régionaux, privés et optimisés pour la périphérie. Pour commencer, consultez la documentation Amazon API Gateway, le blog AWS et les articles de blog consacrés à la réussite des clients.