Amazon Bedrock のセキュリティ、プライバシー、責任ある AI

Amazon Bedrock ガードレールは、有害なコンテンツのフィルタリング、ハルシネーションの検出、機密情報のマスキングに役立つカスタマイズ可能な保護機能を備えており、生成 AI アプリケーションを大規模に構築するのを支援します。有害コンテンツを最大 88% ブロックする、業界をリードするマルチモーダルな毒性検出機能により、特定のニーズに合わせて設定可能なしきい値を使用して、ヘイトスピーチ、侮辱、性的コンテンツ、暴力、不正行為、プロンプト攻撃をフィルタリングできます。また、ガードレールは、ユーザー入力とモデル応答内の個人を特定できる情報 (PII) を検出してマスキングするのにも役立ちます。事前定義済みの PII タイプから選択するか、または正規表現を使用してカスタムの機密情報タイプを定義するオプションがあります。これらの保護は、Amazon Bedrock モデル、サードパーティーオプション (OpenAI、Google Gemini)、Strands Agents などのエージェントフレームワークを含め、任意の基盤モデルにデプロイでき、すべての生成 AI アプリケーションで、一貫した安全性、プライバシー、真実性に対するコントロールを維持できます。 

Amazon Bedrock ガードレールの自動推論チェックは、ハルシネーションによる事実誤認を防ぐのに役立つ、世界初にして唯一の生成 AI 保護です。生成された情報を検証、修正、論理的に説明するための確かな数学的手法を用いることで、最大 99% の精度で正しいモデル応答を特定し、その情報が正確である理由についての証明可能な説明を提供します。コンテキストグラウンディングチェックは、出力をソース情報に照らして検証することで、検索拡張生成 (RAG) および要約ワークロードにおけるハルシネーションが発生した応答の 75% 超をフィルタリングします。これらの機能は両方とも、出力の信頼性、精度、説明可能性を高めることで、より信頼性の高い AI アプリケーションを構築するのに役立ちます。