Sécurité, confidentialité et IA responsable Amazon Bedrock

Les barrières de protection Amazon Bedrock vous aident à développer des applications d’IA générative à grande échelle. Elles offrent des mécanismes de protection personnalisables permettant de filtrer les contenus nuisibles, de détecter les hallucinations et de masquer les informations sensibles. Avec une détection de toxicité multi-modale de pointe, capable de bloquer jusqu’à 88 % des contenus nuisibles, vous pouvez filtrer les discours haineux, les insultes, les contenus à caractère sexuel, la violence, les comportements inappropriés et les attaques par invite en utilisant des seuils configurables adaptés à vos besoins spécifiques. Les barrières de protection permettent également de détecter et de masquer les données d’identification personnelle (PII) dans les entrées utilisateur et les réponses des modèles, avec des options pour sélectionner des types de PII prédéfinis ou définir des types d’informations sensibles personnalisés à l’aide d’expressions régulières. Déployez ces protections sur n’importe quel modèle de fondation de votre choix, qu’il s’agisse de modèles Amazon Bedrock, de modèles tiers (OpenAI, Google Gemini) ou de cadres d’agents comme Strands Agents. Vous assurez ainsi la cohérence de vos contrôles de sécurité, de confidentialité et de fiabilité dans l’ensemble de vos applications d’IA générative. 

Les vérifications du raisonnement automatisé dans les barrières de protection Amazon Bedrock constituent la première et unique protection pour l’IA générative qui aide à prévenir les erreurs factuelles dues aux hallucinations. En utilisant des techniques mathématiques rigoureuses pour vérifier, corriger et expliquer logiquement les informations générées, elles identifient les réponses correctes du modèle avec jusqu’à 99 % de précision et fournissent des explications démontrables sur la raison pour laquelle l’information est exacte. Les contrôles d’ancrage contextuel filtrent plus de 75 % des réponses hallucinées pour les charges de travail de synthèse et de génération à enrichissement contextuel (RAG), en validant les résultats par rapport aux sources d’information. Ces deux fonctionnalités permettent de développer des applications d’IA offrant des niveaux de fiabilité, de précision et d’explicabilité plus élevés.