Publicado en: Nov 28, 2023
Hoy anunciamos una versión preliminar de barreras de protección para Amazon Bedrock, que permite a los clientes implementar medidas de seguridad en todos los modelos fundacionales (FM) en función de sus casos de uso y políticas de IA responsables. Los clientes pueden crear varias barreras de protección adaptadas a diferentes casos de uso y aplicarlas en varios FM, lo que proporciona una experiencia de usuario coherente y estandariza los controles de seguridad en las aplicaciones de IA generativa.
Los clientes deben proteger sus aplicaciones de IA generativa para ofrecer una experiencia de usuario relevante y segura. Si bien muchos FM tienen protecciones integradas para filtrar el contenido no deseado y dañino, es posible que los clientes deseen adaptar aún más las interacciones específicas a sus casos de uso y cumplir con sus políticas de IA responsable. Por ejemplo, es posible que un banco desee configurar su asistente en línea para que se abstenga de ofrecer consejos de inversión y limite el contenido dañino. Con las barreras de protección, los clientes pueden definir un conjunto de temas denegados que no son deseables en el contexto de su aplicación y configurar umbrales para filtrar el contenido dañino en categorías como el odio, los insultos, el contenido sexual y la violencia. Las barreras de protección evalúan las consultas de los usuarios y las respuestas del FM y las comparan con los filtros de contenido y los temas denegados, lo que ayuda a evitar el contenido que entra en categorías restringidas. Esto permite a los clientes gestionar de cerca las experiencias de los usuarios en función de los requisitos y políticas específicos de la aplicación.
Se admiten barreras de protección para el contenido en inglés en los FM basados en texto y en modelos perfeccionados en Amazon Bedrock y en Agentes para Amazon Bedrock. Las barreras de protección para Amazon Bedrock ya están disponible en versión preliminar en las regiones Este de EE. UU. (Norte de Virginia) y Oeste de EE. UU. (Oregón).
Para obtener más información sobre las barreras de protección para Amazon Bedrock, visite la página de características.