Come faccio a selezionare la migliore capacità di Amazon API Gateway Cache per evitare di raggiungere un limite di velocità?

Ultimo aggiornamento: 18-11-2021

Il mio API Gateway limita la velocità e vorrei evitare questa limitazione. Come posso selezionare la migliore capacità API Gateway Cache per il mio carico di lavoro?

Breve descrizione

Amazon API Gateway limiterà le richieste alla tua API per evitare che venga sopraffatta da troppe richieste. Attiva la memorizzazione nella cache delle API per ridurre il numero di chiamate effettuate al tuo endpoint.

Sono disponibili più dimensioni di API Gateway Cache. Per selezionare la dimensione della cache appropriata, esegui un test di carico sull'API e quindi rivedi i parametri di Amazon CloudWatch.

Risoluzione

Attiva la memorizzazione nella cache di API Gateway

Attiva la memorizzazione nella cache di Amazon API Gateway per la fase API. La capacità della cache dipende dalle dimensioni delle risposte e dal carico di lavoro.

Nota: la capacità della cache influisce sulla CPU, sulla memoria e sulla larghezza di banda di rete dell'istanza di cache. Di conseguenza, la capacità della cache può influire sulle prestazioni della cache.

Dopo aver creato la cache, esegui un test di carico per determinare se la dimensione della cache è sufficientemente alta da impedire la limitazione.

Esegui un test di carico

Esegui un test di carico sulla tua API. Puoi utilizzare AWS Distributed Load Testing per simulare il test di carico.

Esegui il test di carico per almeno 10 minuti e rispecchia il traffico di produzione. Quando il test di carico è in esecuzione, monitora le metriche CloudWatch correlate utilizzando i passaggi descritti nella sezione seguente.

Monitora i parametri delle API in CloudWatch

  1. Apri la console di CloudWatch.
  2. Nel pannello di navigazione, seleziona Parametri.
  3. Scegli il parametro ApiGateway.
  4. Monitora i parametri Latency, 4XXError, 5XXError, CacheHitCount e CacheMissCount per l'API su cui stai eseguendo il test di caricamento.
  5. Se visualizzi un aumento in Latency, 4XXError, 5XXError o CacheMissCount con una diminuzione di CacheHitCount , allora ridimensiona la cache di API Gateway su una capacità maggiore.
  6. Se noti un aumento di CacheHitCount e nessun aumento corrispondente in CacheMissCount, allora ridimensiona la cache di API Gateway su una capacità inferiore.
  7. Dopo qualsiasi modifica alla capacità della cache, esegui nuovamente il test di carico fino a quando non ci sono aumenti o diminuzioni improvvise.