Amazon Bedrock ガードレールが自動推論チェックのサポートを開始 (プレビュー版)
Amazon Bedrock ガードレールへの自動推論チェック保護機能の導入により、AWS は自動推論を生成 AI サービスに統合する、初めてで唯一の主要クラウドプロバイダーとなります。自動推論チェックは、ハルシネーションを検出し、大規模言語モデル (LLM) の応答の正確性に関する検証可能な証拠を提供するのに役立ちます。自動推論ツールは、正確性を推測または予測するものではありません。その代わりに、健全な数学的手法によって、専門家が作成した自動推論ポリシーへの準拠を確実に検証します。その結果、透明性が向上します。LLM を使って関連性のあるコンテキスト化された情報に会話形式でアクセスできるようにすることで、ユーザーエクスペリエンスの向上と運用コスト削減を実現している組織はますます増えています。ただし、LLM はハルシネーションを起こしやすく、説得力のある答えを生成できるため、多くの場合、こうしたハルシネーションを検出するのは困難です。ハルシネーションが発生する可能性があることや、発生した理由を説明できないことが原因で、正確性が重要なユースケースへの生成 AI の採用は遅れています。
自動推論チェックにより、各分野の専門家が、業務ワークフローや人事ポリシーなどの分野の知識を要約した自動推論ポリシーと呼ばれる仕様を、さらに容易に構築できるようになります。Amazon Bedrock ガードレールのユーザーは、生成されたコンテンツを自動推論ポリシーと照合して検証することで、不正確さや明記されていない仮定を特定し、記述が正確である理由を検証可能な方法で説明できます。例えば、自動推論チェックを設定して、複雑な人事ポリシー (従業員の在職期間、勤務地、業績に対する制約など) で定義されているトピックに関する回答を検証し、なぜ回答が正しいのかを根拠を示しながら説明できます。
米国東部 (バージニア北部) および米国西部 (オレゴン) の AWS リージョンで Amazon Bedrock ガードレールの自動推論チェックへのアクセスをリクエストするには、AWS アカウントチームまでお問い合わせください。詳細については、Amazon Bedrock ガードレールおよびニュースブログをご覧ください。