Les barrières de protection pour Amazon Bedrock peuvent désormais détecter les hallucinations et protéger les applications utilisant n'importe quel FM
Les barrières de protection pour Amazon Bedrock permettent aux clients de mettre en œuvre des mesures de protection en fonction des exigences de leurs applications et des stratégies responsables en matière d'IA. Aujourd'hui, les barrières de protection ajoutent des vérifications contextuelles et introduisent une nouvelle API ApplyGuardRail pour créer des applications d'IA générative fiables en utilisant n'importe quel modèle de fondation (FM).
Les clients s'appuient sur les capacités inhérentes des FM pour générer des réponses fondées (crédibles) basées sur les données sources de l'entreprise. Cependant, les FM peuvent fusionner plusieurs informations, produisant ainsi des informations incorrectes ou nouvelles, ce qui a un impact sur la fiabilité de l'application. Grâce aux vérifications contextuelles, les barrières de protection peuvent désormais détecter les hallucinations dans les réponses des modèles pour les applications de génération à enrichissement contextuel (RAG) et conversationnelles. Cette protection permet de détecter et de filtrer les réponses qui sont factuellement incorrectes sur la base d'une source de référence et qui ne sont pas pertinentes pour la requête des utilisateurs. Les clients peuvent configurer des seuils de confiance pour filtrer les réponses dont le degré de fiabilité ou de pertinence est faible.
En outre, afin de prendre en charge le choix d'applications de sauvegarde utilisant différents FM, les barrières de protection prennent désormais en charge une API ApplyGuardrail permettant d'évaluer les entrées des utilisateurs et de modéliser les réponses pour tout FM personnalisé et tiers, en plus des FM déjà pris en charge dans Amazon Bedrock. L'API ApplyGuardRail permet désormais une sécurité et une gouvernance centralisées pour toutes vos applications d'IA générative.
Les barrières de protection constituent la seule offre d'un fournisseur de cloud majeur à proposer des protections de sécurité, de confidentialité et de véracité dans une solution unique. La vérification contextuelle et l'API ApplyGuardrail sont prises en charge dans toutes les régions AWS où les barrières de protection pour Amazon Bedrock sont prises en charge.
Pour en savoir plus sur les barrières de protection pour Amazon Bedrock, rendez-vous sur la page des fonctionnalités et consultez le blog News.