Barreiras de Proteção para Amazon Bedrock anunciam um aumento nos limites da cota de serviço
As Barreiras de Proteção para Amazon Bedrock anunciam um aumento nos limites da cota de serviço padrão, permitindo que você escale suas aplicações de IA generativa para aumentar o tráfego. As Barreiras de Proteção para Bedrock fornecem proteções configuráveis para filtrar conteúdo indesejável e prejudicial em diferentes categorias e provocar ataques, filtros de tópicos para definir e proibir tópicos específicos, filtros de informações confidenciais para redigir informações de identificação pessoal (PII), filtros de palavras para bloquear palavras específicas e detectar alucinações de modelos detectando a base e a relevância das respostas do modelo, bem como identificar, corrigir e explicar alegações factuais nas respostas do modelo usando o raciocínio automatizado. Essas políticas podem ser personalizadas para seus casos de uso específicos e políticas de IA responsável. As Barreiras de Proteção podem ser aplicadas em qualquer modelo básico, incluindo aqueles hospedados no Amazon Bedrock, modelos auto-hospedados e modelos de terceiros usando a API ApplyGuardrail, fornecendo uma experiência de usuário consistente e padronizando os controles de segurança e privacidade.
A partir de hoje, as Barreiras de Proteção para Bedrock permitem que você escale suas aplicações de IA generativa para cargas de tráfego mais altas com maiores limites de cota de serviço que ajudam a processar mais transações por segundo (TPS) e mais unidades de texto por segundo (TUPS). Com esse aumento, agora você pode processar até 50 chamadas por segundo usando a API ApplyGuardrail, um aumento de 2x em relação ao limite anterior de 25 chamadas por segundo. Filtros de conteúdo, filtros de informações confidenciais e filtros de palavras agora podem processar até 200 TUPS, um aumento de 8x em relação aos limites anteriores de 25 TUPS.
Esses limites estão disponíveis nas regiões da AWS Leste dos EUA (Norte da Virgínia) e Oeste dos EUA (Oregon).
Para saber mais, consulte a documentação técnica e a página do produto Barreiras de Proteção para Bedrock.