投稿日: Nov 28, 2023
本日、Guardrails for Amazon Bedrock のプレビュー版を発表いたします。これにより、お客様は自社のユースケースと責任ある AI ポリシーに基づき、基盤モデル (FM) に対して保護を実装できます。お客様は、さまざまなユースケースに合わせて複数のガードレールを作成し、それらを複数の FM に適用することで、一貫したユーザーエクスペリエンスを提供し、生成系 AI アプリケーション全体で安全管理を標準化できます。
お客様は、適切で安全なユーザーエクスペリエンスを実現するために、生成系 AI アプリケーションを保護する必要があります。多くの FM には望ましくない有害なコンテンツをフィルタリングする保護機能が組み込まれていますが、お客様は、自社の責任ある AI ポリシーを順守しながら、それぞれのユースケースに合わせてインタラクションをさらにカスタマイズしたいと思うかもしれません。例えば、銀行であれば、投資についてのアドバイスは避け、有害なコンテンツを制限するようにオンラインアシスタントを設定できます。ガードレールを設けると、アプリケーションのコンテキストに不適切な一連の拒否対象トピックを定義することや、憎悪、侮辱、性的、暴力などのカテゴリの有害コンテンツをフィルタリングするためのしきい値を設定することができます。ガードレールは、拒否対象トピックとコンテンツフィルターに照らしてユーザーのクエリと FM の応答を評価することで、制限対象カテゴリに該当するコンテンツを防止するのに役立ちます。これにより、お客様はアプリケーション固有の要件とポリシーに基づいてユーザーエクスペリエンスを綿密に管理できます。
ガードレールは、Amazon Bedrock および Amazon Bedrock のエージェント上の、テキストベースの FM や微調整済みモデルに対して、英語コンテンツでサポートされています。Guardrails for Amazon Bedrock は、米国東部 (バージニア北部) および米国西部 (オレゴン) リージョンでプレビューとしてご利用いただけます。
Guardrails for Amazon Bedrock の詳細については、特集ページをご覧ください。