Publicado: Nov 28, 2023
Hoje, estamos anunciando as barreiras de proteção do Amazon Bedrock em versão de pré-visualização, que permite que os clientes implementem barreiras de proteção em todos os modelos de base (FMs) com base em seus casos de uso e políticas responsáveis de IA. Os clientes podem criar várias barreiras de proteção personalizadas para diferentes casos de uso e aplicá-las em vários FMs, fornecendo uma experiência de usuário consistente e padronizando os controles de segurança nas aplicações de IA generativa.
Os clientes precisam proteger suas aplicações de IA generativa para uma experiência de usuário relevante e segura. Embora muitos FMs tenham proteções integradas para filtrar conteúdo indesejável e nocivo, os clientes podem querer personalizar ainda mais as interações específicas de seus casos de uso e aderir às políticas responsáveis de IA. Por exemplo, um banco pode querer configurar seu assistente online para evitar fornecer consultoria de investimento e limitar o conteúdo nocivo. Com as barreiras de proteção, os clientes podem definir um conjunto de tópicos negados que não são desejáveis no contexto da sua aplicação e configurar limites para filtrar conteúdo nocivo em categorias como ódio, insultos, sexo e violência. As barreiras de proteção avaliam as consultas dos usuários e as respostas do FM em relação aos tópicos e filtros de conteúdo negados, ajudando a evitar que o conteúdo se enquadre em categorias restritas. Isso permite que os clientes gerenciem de perto as experiências do usuário com base nos requisitos e políticas específicos da aplicação.
As barreiras de proteção são compatíveis com conteúdo em inglês em FMs baseados em texto e modelos aprimorados no Amazon Bedrock, bem como nos agentes do Amazon Bedrock. As barreiras de proteção do Amazon Bedrock estão disponíveis para pré-visualização nas regiões Leste dos EUA (N. da Virgínia) e Oeste dos EUA (Oregon).
Para saber mais sobre as barreiras de proteção do Amazon Bedrock, acesse a página do atributo.