Las comprobaciones del razonamiento automatizado ya están disponibles en las barreras de protección de Amazon Bedrock
AWS anuncia la disponibilidad general de las comprobaciones de razonamiento automatizado, un resguardo dentro de las barreras de protección de Amazon Bedrock que utilizan técnicas de verificación formales para validar la precisión y el cumplimiento de las políticas de los resultados de los modelos de IA generativa. Las comprobaciones del razonamiento automatizado ofrecen una precisión de hasta el 99 % a la hora de detectar las respuestas correctas de los LLM. Esto le da una seguridad demostrable a la hora de detectar las alucinaciones de la IA y, además, ayuda a detectar ambigüedades en las respuestas de los modelos.
Las comprobaciones del razonamiento automatizado ofrecen un enfoque drásticamente diferente al de los métodos de prueba tradicionales. A diferencia de los resultados de muestreo para determinar la calidad, las comprobaciones del razonamiento automatizado ofrecen garantías matemáticamente rigurosas de que las respuestas de la IA cumplen con las reglas empresariales y el conocimiento del dominio definidos. Esto es particularmente valioso para las empresas de sectores regulados que requieren una validación inequívoca de los resultados de la IA antes de la implementación.
Las comprobaciones del razonamiento automatizado en las barreras de protección de Amazon Bedrock ya están disponibles de forma general en las regiones de EE. UU. (norte de Virginia), EE. UU. (Ohio), EE. UU. (Oregón), Europa (Fráncfort), Europa (Irlanda) y Europa (París). Los clientes pueden acceder al servicio a través de la consola de Amazon Bedrock, así como del SDK de Python para Amazon Bedrock.
Para obtener más información sobre las comprobaciones del razonamiento automatizado y cómo puede integrarlas en sus flujos de trabajo de IA generativa, consulte la documentación de Amazon Bedrock. También puede ponerse en contacto con su equipo de cuentas de AWS o con un arquitecto de soluciones de AWS para analizar sus requisitos y casos de uso específicos. La compatibilidad con CloudFormation estará disponible próximamente. Lea el blog de noticias, revise la documentación o visite la página web de las barreras de protección para obtener más información.