Las barreras de protección de Amazon Bedrock ahora admiten la inferencia entre regiones
Barreras de protección de Amazon Bedrock anuncia la compatibilidad con la inferencia entre regiones, una característica opcional que permite a los clientes administrar sin inconvenientes las ráfagas de tráfico mediante el uso de la computación en diferentes regiones de AWS.
Las barreras de protección de Bedrock de proporcionan medidas de seguridad configurables para ayudar a detectar y bloquear contenido dañino y ataques a los mensajes, definir temas para denegar y prohibir temas específicos y ayuda a redactar información de identificación personal (PII), como datos personales, de las solicitudes de entrada y las respuestas del modelo. Además, las barreras de protección de Bedrock ayudan a detectar y bloquear las alucinaciones del modelo, e identificar, corregir y explicar las afirmaciones fácticas en las respuestas del modelo mediante comprobaciones de razonamiento automatizado. Las Barreras de protección se pueden aplicar en cualquier modelo fundacional, incluidos los alojados en Amazon Bedrock, los autohospedados y los de terceros fuera de Bedrock que utilizan la API ApplyGuardrail. De esta manera, se ofrece una experiencia de usuario uniforme y se ayuda a estandarizar los controles de seguridad y privacidad.
Al utilizar la inferencia interregional, los clientes de Barreras de protección de Amazon Bedrock podrán obtener un rendimiento uniforme y una mayor resiliencia durante los períodos de máxima demanda. Al elegir esta opción, los clientes ya no tienen que dedicar tiempo y esfuerzo a predecir las fluctuaciones de la demanda. En cambio, la inferencia entre regiones enruta el tráfico de forma dinámica entre varias regiones, lo que garantiza una disponibilidad óptima para cada solicitud y un rendimiento más fluido durante los períodos de alto uso.
El uso de la inferencia entre regiones con Barreras de protección de Amazon Bedrock no conlleva ningún costo de enrutamiento adicional. Consulte la lista de regiones compatibles aquí.
Para obtener más información sobre la característica y cómo empezar, consulte la documentación técnica.