Barreiras de Proteção do Amazon Bedrock já oferecem suporte à inferência entre regiões
Hoje, as Barreiras de Proteção do Amazon Bedrock anunciam o suporte à inferência entre regiões, um recurso opcional que permite aos clientes gerenciar facilmente picos de tráfego utilizando computação em diferentes regiões da AWS.
As Barreiras de Proteção do Bedrock oferecem proteções configuráveis para ajudar a detectar e bloquear conteúdo nocivo e ataques via prompts, negar e proibir tópicos específicos e ajudar a remover informações de identificação pessoal (PII), como dados pessoais, a partir de solicitações de entrada e respostas de modelos. Além disso, as Barreiras de Proteção do Bedrock ajudam a detectar e bloquear alucinações de modelos e a identificar, corrigir e explicar afirmações factuais nas respostas dos modelos usando verificações com raciocínio automatizado. As Barreiras de Proteção podem ser aplicadas em qualquer modelo básico, incluindo aqueles hospedados no Amazon Bedrock, modelos auto-hospedados e modelos de terceiros fora do Bedrock usando a API ApplyGuardrail, fornecendo uma experiência de usuário consistente e ajudando a padronizar os controles de segurança e privacidade.
Ao usar a inferência entre regiões, os clientes das Barreiras de Proteção do Amazon Bedrock podem obter um throughput consistente e maior resiliência durante períodos de pico de demanda. Quando optam por participar, os clientes não precisam mais gastar tempo e esforço prevendo as flutuações da demanda. Em vez disso, a inferência entre regiões roteia dinamicamente o tráfego entre várias regiões, garantindo uma disponibilidade ideal para cada solicitação e uma performance mais estável durante períodos de alto uso.
Não há custo adicional de roteamento para usar a inferência entre regiões com as Barreiras de Proteção do Amazon Bedrock. Veja aqui a lista de regiões com suporte.
Para saber mais sobre o recurso e como começar a usar, consulte a documentação técnica.