El servicio de barreras de protección de Bedrock anuncia un aumento en los límites de las cuotas de servicio
El servicio de barreras de protección de Amazon Bedrock anuncia un aumento en los límites de cuotas de servicio predeterminados, lo que le permite escalar sus aplicaciones de IA generativa para un mayor tráfico. El servicio de barreras de protección de Bedrock proporciona medidas de seguridad configurables para filtrar el contenido no deseado y nocivo en diferentes categorías y ataques de peticiones, filtros de temas para definir y prohibir temas específicos, filtros de información confidencial para redactar información de identificación personal (PII), filtros de palabras para bloquear palabras específicas y detectar alucinaciones de modelos al detectar la base y la relevancia de las respuestas del modelo, así como identificar, corregir y explicar las afirmaciones fácticas en las respuestas del modelo mediante el razonamiento automatizado. Estas políticas se pueden adaptar a sus casos de uso específicos y a sus políticas de IA responsable. Las barreras de protección se pueden aplicar en cualquier modelo fundacional, incluidos los alojados en Amazon Bedrock, los modelos autohospedados y los modelos de terceros que utilizan la API ApplyGuardrail, lo que ofrece una experiencia de usuario uniforme y estandariza los controles de seguridad y privacidad.
A partir de hoy, el servicio de barreras de protección de Bedrock le permite escalar sus aplicaciones de IA generativa para cargas de tráfico más altas con mayores límites de cuota de servicio que ayudan a procesar una mayor cantidad de transacciones por segundo (TPS) y unidades de texto por segundo (TUPS). Con este aumento, ahora puede procesar hasta 50 llamadas por segundo con la API ApplyGuardrail, lo que representa un aumento del doble respecto al límite anterior de 25 llamadas por segundo. Los filtros de contenido, los filtros de información confidencial y los filtros de palabras ahora pueden procesar hasta 200 UPS, lo que representa un aumento de 8 veces con respecto a los límites anteriores de 25 TUPS.
Estos límites están disponibles en las regiones de AWS Este de EE. UU. (Norte de Virginia) y Oeste de EE. UU. (Oregón).
Para obtener más información, consulte la documentación técnica y la página del producto de barreras de protección de Bedrock.