¿Cómo selecciono mejor capacidad de caché de Amazon API Gateway para evitar alcanzar un límite de velocidad?

Última actualización: 18-11-2021

Mi API Gateway limita la velocidad y quiero evitar la limitación controlada. ¿Cómo puedo seleccionar la mejor capacidad de caché de API Gateway para mi carga de trabajo?

Descripción corta

Amazon API Gateway limita de forma controlada las solicitudes a la API para evitar que se sobrecargue con demasiadas solicitudes. Habilitación del almacenamiento en caché de la API para reducir el número de llamadas hechas al punto de enlace.

Hay varios tamaños de caché de API Gateway disponibles. Para seleccionar el tamaño de caché adecuado, ejecute una prueba de carga en su API y, a continuación, revise las métricas de Amazon CloudWatch.

Resolución

Activar el almacenamiento en caché de API Gateway

Active el almacenamiento en caché de Amazon API Gateway para la fase de API. La capacidad del almacenamiento en caché depende del tamaño de sus respuestas y de la carga de trabajo.

Nota: La capacidad de la caché afecta a la CPU, la memoria y el ancho de banda de red de la instancia de caché. Como resultado, la capacidad de la memoria caché puede repercutir en su rendimiento.

Después de crear la caché, ejecute una prueba de carga para determinar si el tamaño de la caché es lo suficientemente alto como para evitar la limitación controlada.

Ejecutar una prueba de carga

Ejecute una prueba de carga en su API. Puede utilizar Pruebas de carga distribuidas en AWS para simular la prueba de carga.

Ejecute la prueba de carga durante al menos 10 minutos y asegúrese de que refleje el tráfico de producción. Cuando se esté ejecutando la prueba de carga, monitoree las métricas de CloudWatch relacionadas siguiendo los pasos de la siguiente sección.

Monitoree las métricas de la API en CloudWatch

  1. Abra la consola de CloudWatch.
  2. En el panel de navegación, seleccione Configuración.
  3. Elija la métrica ApiGateway.
  4. Monitoree las métricas Latencia, 4XXError, 5XXError, CacheHitCount, y CacheMissCount de la API que está probando.
  5. Si ve un aumento en Latencia, 4XXError, 5XXError o CacheMissCount con una disminución de CacheHitCount , aumente la capacidad del tamaño de la caché de API Gateway.
  6. Si ve un aumento en CacheHitCount y no hay un aumento correspondiente en CacheMissCount, disminuya la capacidad del tamaño de la caché de API Gateway.
  7. Después de cualquier cambio en la capacidad de la memoria caché, vuelva a ejecutar la prueba de carga hasta que no haya aumentos o disminuciones repentinos.