Publicado en: Apr 23, 2024
Hoy presentamos la disponibilidad general de las barreras de protección para Amazon Bedrock, que permiten a los clientes implementar medidas de seguridad en los modelos de lenguaje de gran tamaño (LLM) en función de sus casos de uso y políticas de IA responsable. Los clientes pueden crear varias barreras de protección adaptadas a diferentes casos de uso y aplicarlas en varios LLM, lo que proporciona una experiencia de usuario coherente y estandariza los controles de seguridad en las aplicaciones de IA generativa.
Si bien muchos modelos fundacionales (FM) tienen protecciones integradas para filtrar el contenido dañino, los clientes quieren adaptar aún más las interacciones para proteger sus aplicaciones de IA generativa y ofrecer una experiencia de usuario pertinente y segura. Las barreras de protección ofrecen un conjunto completo de controles de seguridad y privacidad para administrar las interacciones de los usuarios en aplicaciones de IA generativa. En primer lugar, los clientes pueden definir un conjunto de temas rechazados que no son deseables en el contexto de su aplicación. En segundo lugar, pueden configurar umbrales para filtrar el contenido según categorías dañinas, como el odio, los insultos, las relaciones sexuales, la violencia, las conductas reprochables (incluida la actividad delictiva) y los ciberataques (inyección de prompts y jailbreak). En tercer lugar, los clientes pueden definir un conjunto de palabras ofensivas e inapropiadas para bloquearlas en su aplicación. Por último, los clientes pueden filtrar las entradas de los usuarios que contienen información confidencial (por ejemplo, información de identificación personal) o redactar la información confidencial en las respuestas de ejemplo según los casos de uso.
Se admiten barreras de protección para el contenido en inglés en todos los LLM y modelos perfeccionados de Amazon Bedrock. Las barreras de protección para Amazon Bedrock están disponibles en las regiones de Este de EE. UU. (Norte de Virginia) y Oeste de EE. UU. (Oregón).
Para obtener más información sobre las barreras de protección para Amazon Bedrock, visite la página de características y lea el blog de noticias.