Amazon Bedrock Guardrails prend désormais en charge les contrôles de raisonnement automatisé (version préliminaire)

Publié le: 3 déc. 2024

Avec le lancement de la protection contre les contrôles de raisonnement automatisé dans Amazon Bedrock Guardrails, AWS devient le premier et le seul fournisseur de cloud majeur à intégrer le raisonnement automatisé dans ses offres d'IA générative. Les contrôles de raisonnement automatisé aident à détecter les hallucinations et fournissent une preuve vérifiable de l'exactitude de la réponse d'un grand modèle de langage (LLM). Les outils de raisonnement automatisé ne permettent pas de deviner ni de prédire l'exactitude. Ils s'appuient plutôt sur de solides techniques mathématiques pour vérifier définitivement la conformité aux stratégies de raisonnement automatisé créées par des experts, améliorant ainsi la transparence. Les organisations utilisent de plus en plus les LLM pour améliorer l'expérience utilisateur et réduire les coûts opérationnels en permettant un accès conversationnel à des informations pertinentes et contextualisées. Cependant, les LLM sont sujets aux hallucinations. En raison de la capacité des LLM à générer des réponses convaincantes, ces hallucinations sont souvent difficiles à détecter. La possibilité d'hallucinations et l'incapacité à expliquer pourquoi elles se sont produites ralentissent l'adoption de l'IA générative pour les cas d'utilisation où la précision est essentielle.

Grâce aux contrôles de raisonnement automatisé, les experts du domaine peuvent créer plus facilement des spécifications appelées « stratégies de raisonnement automatisée », qui encapsulent leurs connaissances dans des domaines tels que les flux de travail opérationnels et les stratégies RH. Les utilisateurs d'Amazon Bedrock Guardrails peuvent valider le contenu généré par rapport à une stratégie de raisonnement automatisé afin d'identifier les inexactitudes et les hypothèses non déclarées, et d'expliquer pourquoi les déclarations sont exactes de manière vérifiable. Par exemple, vous pouvez configurer des contrôles de raisonnement automatisés pour valider les réponses sur des sujets définis dans des stratégies RH complexes (qui peuvent inclure des contraintes relatives à la durée du mandat, à l’emplacement et aux performances des employés) et expliquer pourquoi une réponse est exacte avec des preuves à l'appui.

Contactez l'équipe responsable de votre compte AWS pour demander l'accès aux contrôles de raisonnement automatisé dans Amazon Bedrock Guardrails dans les régions AWS USA Est (Virginie du Nord) et USA Ouest (Oregon). Pour en savoir plus, rendez-vous sur Amazon Bedrock Guardrails et consultez le blog d’actualités AWS.