如何選取最佳 Amazon API Gateway 快取容量以避免達到速率限制？

簡短描述

Amazon API Gateway 會調節您的 API 請求，以防止因為過多請求而無法負荷。 開啟 API 快取以減少對您的端點進行的呼叫數目。

有多個 API Gateway 快取大小可用。若要選取適當的快取大小，請在您的 API 上執行負載測試，然後檢閱 Amazon CloudWatch 指標。

解決方案

開啟 API Gateway 快取

為您的 API 階段開啟 Amazon API Gateway 快取。快取容量取決於您的回應和工作負載的大小。

注意：快取容量會影響快取執行個體的 CPU、記憶體和網路頻寬。因此，快取容量會影響快取的效能。

建立您的快取之後，請執行負載測試以判斷快取大小是否足以防止調節。

執行負載測試

在您的 API 上執行負載測試。您可以使用 AWS 分散式負載測試來模擬負載測試。

執行負載測試至少 10 分鐘，並鏡像您的生產流量。當負載測試正在執行時，請使用下列區段中的步驟來監控相關的 CloudWatch 指標。

在 CloudWatch 中監控 API 指標

1. 開啟 CloudWatch 主控台。
2. 在導覽窗格中，選擇 Metrics (指標)。
3. 選擇 ApiGateway 指標。
4. 監控您針對其執行負載測試的 API 是否有 Latency (延遲)、4XXError、5XXError、CacheHitCount 和 CacheMissCount 指標。
5. 如果您看到 Latency (延遲)、4XXError、5XXError 或 CacheMissCount 增加，以及 CacheHitCount 減少，請將 API Gateway 快取的大小調整為較大的容量。
6. 如果您看到 CacheHitCount 增加而 CacheMissCount 沒有對應的增加，請將 API Gateway 快取的大小調整為較小的容量。
7. 對您的快取容量進行任何變更之後，請再次執行負載測試，直到沒有突發的增加或減少。

---

相關資訊

Amazon API Gateway 定價

開啟 API 快取以提升回應能力

Amazon API Gateway 維度和指標