Las barreras de protección para Amazon Bedrock ahora pueden detectar alucinaciones y proteger las aplicaciones con cualquier modelo fundacional
Las barreras de protección de Amazon Bedrock permiten a los clientes implementar medidas de seguridad en función de los requisitos de sus aplicaciones y de las políticas de IA responsables. En la actualidad, las barreras de protección agregan comprobaciones fundamentadas contextuales e introduce una nueva API ApplyGuardrail para crear aplicaciones de IA generativa fiables utilizando cualquier modelo fundacional (FM).
Los clientes confían en las capacidades inherentes de los FM para generar respuestas fundamentadas (creíbles) que se basan en los datos de origen de la empresa. Sin embargo, los FM pueden combinar varios datos y producir información nueva o incorrecta, lo que afecta a la fiabilidad de la aplicación. Gracias a las comprobaciones fundamentadas contextuales, las barreras de protección ahora pueden detectar alucinaciones en las respuestas del modelo para aplicaciones de RAG (generación aumentada por recuperación) y conversacionales. Esta protección ayuda a detectar y filtrar las respuestas que son objetivamente incorrectas en función de un origen de referencia y que son irrelevantes para la consulta de los usuarios. Los clientes pueden configurar umbrales de fiabilidad para filtrar las respuestas con poca confianza en cuanto a su fundamento o relevancia.
Además, para permitir la elección de aplicaciones de protección que utilizan diferentes FM, las barreras de protección ahora admiten una API ApplyGuardrail para evaluar las entradas de los usuarios y modelar las respuestas para cualquier FM personalizado y de terceros, además de los FM que ya son compatibles con Amazon Bedrock. La API ApplyGuardrail ahora admite la seguridad y la gobernanza centralizadas para todas sus aplicaciones de IA generativa.
Las barreras de protección son la única oferta de un importante proveedor de nube que brinda protecciones de seguridad, privacidad y veracidad en una sola solución. La verificación fundamentada contextual y la API ApplyGuardrail son compatibles en todas las regiones de AWS en las que se admiten las barreras de protección para Amazon Bedrock.
Para obtener más información sobre las barreras de protección para Amazon Bedrock, visite la página de características y lea el blog de noticias.