Las barreras de protección de Amazon Bedrock ahora admiten comprobaciones de razonamiento automatizado (versión preliminar)
Con el lanzamiento de la protección de comprobaciones de razonamiento automatizado en las barreras de protección de Amazon Bedrock, AWS se convierte en el primer y único proveedor importante de nube que integra el razonamiento automatizado en nuestras ofertas de IA generativa. Las comprobaciones de razonamiento automatizado ayudan a detectar alucinaciones y proporcionan una prueba verificable de que la respuesta de un modelo de lenguaje de gran tamaño (LLM) es precisa. Las herramientas de razonamiento automatizado no adivinan ni predicen la precisión. En cambio, se basan en técnicas matemáticas sólidas para verificar definitivamente el cumplimiento de las políticas de razonamiento automatizado creadas por expertos, lo que mejora la transparencia. Las organizaciones utilizan cada vez más los LLM para mejorar las experiencias de los usuarios y reducir los costos operativos al permitir el acceso conversacional a información relevante y contextualizada. Sin embargo, los LLM son propensos a las alucinaciones. Debido a la capacidad de los LLM para generar respuestas convincentes, estas alucinaciones suelen ser difíciles de detectar. La posibilidad de alucinaciones y la incapacidad de explicar por qué se produjeron ralentizan la adopción de la IA generativa en casos de uso en los que la precisión es fundamental.
Con las comprobaciones de razonamiento automatizado, los expertos en dominios pueden crear más fácilmente especificaciones denominadas políticas de razonamiento automatizado que encapsulan sus conocimientos en campos como los flujos de trabajo operativos y las políticas de recursos humanos. Los usuarios de las barreras de protección de Amazon Bedrock pueden validar el contenido generado con arreglo a una política de razonamiento automatizado para identificar imprecisiones y suposiciones no declaradas, y explicar por qué las afirmaciones son precisas de forma verificable. Por ejemplo, puede configurar las comprobaciones de razonamiento automatizado para validar las respuestas sobre temas definidos en políticas de recursos humanos complejas (que pueden incluir restricciones en la permanencia, la ubicación y el desempeño de los empleados) y explicar por qué una respuesta es precisa con pruebas que la respalden.
Póngase en contacto con su equipo de cuentas de AWS para solicitar acceso a las comprobaciones de razonamiento automatizado en Barreras de protección de Amazon Bedrock en las regiones de AWS del Este de EE. UU. (Norte de Virginia) y Oeste de EE. UU. (Oregón). Para obtener más información, visite Barreras de protección de Amazon Bedrock y lea el blog de noticias.