Amazon Bedrock ガードレールで自動推論チェックが利用可能になりました
AWS は、自動推論チェックの一般提供を発表しました。これは、Amazon Bedrock ガードレール内の保護手段であり、形式的検証手法を使用して、生成 AI モデルからの出力の正確性とポリシーへの準拠を検証します。自動推論チェックにより、LLM からの正しい回答を最大 99% の精度で検出できるため、モデル応答のあいまいさ検出をサポートすると同時に、AI によるハルシネーションの検出において証明可能な保証が得られます。
自動推論チェックは、従来のテスト方法とは根本的に異なるアプローチです。品質のために出力をサンプリングするのとは異なり、自動推論チェックは、AI の回答が定義されたビジネスルールとドメイン知識に従っていることを数学的に厳密に保証します。これは、デプロイ前に AI 出力の明確な検証を必要とする規制対象の業界の企業にとって特に有益です。
Amazon Bedrock ガードレールの自動推論チェックは、現在、米国 (バージニア北部)、米国 (オハイオ)、米国 (オレゴン)、欧州 (フランクフルト)、欧州 (アイルランド)、欧州 (パリ) の各リージョンで一般提供されるようになりました。お客様は Amazon Bedrock コンソールと Amazon Bedrock Python SDK からこのサービスにアクセスできます。
自動推論チェックの詳細と、それを生成 AI ワークフローに統合する方法については、Amazon Bedrock のドキュメントをご覧ください。また、AWS アカウントチームまたは AWS ソリューションアーキテクトに連絡して、具体的なユースケースや要件について話し合うこともできます。CloudFormation のサポートは近日中に提供が開始されます。詳細については、ニュースブログを読んだり、ドキュメントを確認したり、ガードレールのウェブページにアクセスしたりしてください。