Amazon Bedrock を活用したアプリケーションの設計に信頼と安全性を組み込む

生成 AI は有望なイノベーションをもたらし、カスタマーサービスからコンテンツ作成に至るまで、個人や組織によるさまざまな業務への取り組み方を変革しています。AI の機能が拡大し続ける中、組織は、AI アプリケーションの開発ライフサイクルに責任ある AI の概念をどのように組み込むかにますます注目しています。

アクセンチュアと Amazon Web Services (AWS) による調査では、責任ある AI の実践が組織内部と組織外部のユーザーの双方にもたらすビジネス価値について、説得力のある根拠が示されています。責任ある AI に対する成熟したアプローチを明確に発信している組織では、AI の導入に対する従業員の信頼が 82% 向上しており、それがイノベーションの促進に直接つながっています。さらに、責任ある AI を活用した製品やサービスを提供している企業では、顧客ロイヤルティと顧客満足度が 25% 向上しています。

AWS は、責任ある AI の実装の基盤となる主要な側面として、次のものを挙げています。

• 安全性は、有害なシステム出力と誤用の防止に重点を置いています。この側面では、ユーザーとシステムの安全性を優先するように AI システムを方向付けることを重視します。
• 制御可能性は、AI システムの動作を監視して方向付ける仕組みに重点を置いています。この側面は、AI システムが特定のパラメータの範囲内で動作するように管理、誘導、制約する能力を指します。
• 公平性は、AI がさまざまなユーザーグループに与える影響を考慮することに重点を置いています。
• 説明可能性は、システム出力の理解と評価に重点を置いています。
• セキュリティとプライバシーは、データとモデルを適切に取得、使用、保護することに重点を置いています。
• 正確性と堅牢性は、予期しない入力や敵対的な入力があっても、正しいシステム出力を実現することに重点を置いています。
• ガバナンスは、AI システムの開発、デプロイ、管理を倫理基準、法的要件、社会的価値観に沿ったものにすることに重点を置いています。
• 透明性は、AI システムがどのように意思決定を行うのか、なぜ特定の結果を生成するのか、どのようなデータを使用しているのかを理解することに重点を置いています。

AI の実装では、これらすべての側面を確認して適用することがベストプラクティスです。詳細については、「Amazon Bedrock アプリケーションで責任ある AI のコアディメンションに対応するための考慮事項」を参照してください。

AI システムを実装する際は、AWS の責任ある AI のライフサイクルのすべてのフェーズに安全性を組み込むべきです。責任ある AI のライフサイクルは次の 3 つのフェーズで構成されており、安全性の側面に関する責任を考える際の考慮事項はフェーズごとに異なります。

1. 設計および開発フェーズでは、潜在的な安全性リスクを徹底的に評価します。AI アプリケーションに何をさせたいのか、何をさせたくないのか、どのような動作を防止したいのかを明確にします。システムには最初から安全性のガードレールを組み込み、開発チームが AI アプリケーションの機能と限界を理解していることを確認してください。
2. デプロイフェーズでは、理論が現実に試されます。このフェーズでは、ユーザー向けの包括的なトレーニングから、プロアクティブな監視やレビュープロセスまで、複数のレイヤーで堅牢な安全対策を実装すべきです。すべてのアプリケーション、製品、機能に、明確な安全プロトコルとユーザー向けガイドラインを含める必要があります。アプリケーションのリリースだけでなく、全体的な安全フレームワークをどのように立ち上げるかまで検討する必要があります。このフレームワークは、ブランド、ユーザー、ステークホルダーを保護するものでなければならず、レッドチームテストなどのステップを含めることもできます。
3. 運用フェーズでは、警戒を怠らないことが重要です。安全性は、セキュリティと同様に、一度設定したら放置してよいものではなく、継続的な監視と適応が必要です。潜在的な安全性の問題を早期に発見できるよう、リアルタイムのフィードバックの仕組みを実装し、定期的にパフォーマンスを評価できます。また、アプリケーションの使われ方の変化や、安全性を損なうおそれのある機能を継続的に監視することもできます。安全性に関する考慮事項やリスクはテクノロジーの進化とともに変化するため、継続的な調整が必要であることを理解しておくことが非常に重要です。

詳細については、「Responsible use of AI guide」を参照してください。

Amazon Bedrock の基盤モデルには、有害な出力を防ぐための安全メカニズムが本来備わっています。ただし、本番環境で入力に対する安全システムを追加で実装すれば、問題のあるコンテンツ、ユーザー、パターンを早期に検出するための重要な機能を実現できます。

注: Amazon Bedrock では、AWS 適正利用規約 (AUP) およびサービス条件 (責任ある AI ポリシーやサードパーティーのモデルプロバイダーの AUP を含む) への違反の可能性を特定するために、自動化された不正使用の検出メカニズムを実装している場合があります。

詳細については、Amazon Bedrock の不正使用の検出に関するドキュメントを参照してください。

AI サービスに対する信頼を維持するには、開発リソースを効率的に計画、管理しつつ、予防的な措置を講じることが重要です。開発の早い段階でオブザーバビリティと安全性のガードレールを導入することで、長期的なスケーラビリティを支えるとともに、ユーザーに影響が及ぶ前に潜在的な問題を特定しやすくなります。このプロセスを始めるにあたり、次のアクションを通じて AI のユースケースの範囲を徹底的に定義します。

• ユーザーを理解する
• 起こり得る誤用シナリオを予測する
• リスク許容度を定義する

この範囲定義は、期待されるパフォーマンスを維持しながら、AI の実装に固有のリスクに対処する精緻な安全フレームワークを開発する際の指針となります。この範囲定義に基づいて、Amazon Bedrock アプリケーションの監視と保護に特化して設計された AWS のツールを活用できます。

Amazon CloudWatch は、AI システムの動作とパフォーマンスを把握するために不可欠な可視性を提供します。包括的なログ記録を設定すると、ユーザーセグメントやインタラクションの種類ごとに、次のような重要な情報を取得できます。

• リクエスト量
• レスポンスのレイテンシー
• 拒否率
• コンテンツフィルタリングのトリガー

この情報を使用すると、運用に影響が及ぶ前に、不正使用が疑われるパターンや予期しない動作を特定できます。CloudWatch ダッシュボードでは監視の優先度に応じてメトリクスを可視化でき、自動アラートによってしきい値を超えた際に迅速に通知を受け取れます。このインフラストラクチャにより、インタラクションデータを実用的なインサイトに変換し、安全性の継続的な改善につなげることができます。

注: デフォルトでは、Amazon Bedrock のログ記録はオフになっています。アプリケーションでログ記録をオンにする必要があります。設定については、アカウントマネージャーにお問い合わせください。

訳注: モデル呼び出しのログ記録は、Amazon Bedrock コンソールまたは API を使用してお客様自身で有効化することもでき、ログの出力先には Amazon S3 または Amazon CloudWatch Logs を指定できます。参照: Amazon Bedrock ユーザーガイド

Amazon Bedrock Guardrails は、特定のリスクプロファイルやコンテンツポリシーに合わせて設定できる保護メカニズムを提供します。Amazon Bedrock Guardrails は、次のようにアプリケーションの要件に合わせてカスタマイズできます。

• ドメインに関連する望ましくないトピックを定義する
• 適切なコンテンツフィルタリングのしきい値を設定する
• データポリシーに沿った機密情報の検出と秘匿化のパラメータを設定する

さらに、アプリケーションのニーズに応じて創造性の余地を残しつつ、精度を優先してハルシネーションを防ぐコントロールも設定できます。Amazon Bedrock Guardrails を慎重に設定することで、ユースケース固有の要件やリスク要因に応じて、パフォーマンスと安全性のバランスを取ることができます。

AI の安全性に関する取り組みが進化し、新たなリスクが生じる中、安全メカニズムを実装していても不正使用が発生する可能性はあります。AWS Trust & Safety チームから不正使用の報告を受け取った場合は、問題に効果的に対処するために次の手順を実行してください。

1. 受領した旨を連絡する: 24 時間以内に、不正使用の報告を受領したことを AWS に連絡します。チームが調査を継続中の場合は、その旨を AWS に伝え、調査完了までの見込み日数を知らせます。
2. 問題を調査する: ログ (有効になっている場合) の確認、Amazon Bedrock への入力のレビュー、不正アクセスの有無の確認など、問題を徹底的に調査します。AWS の不正使用の報告には調査用のプロンプト ID のサンプルが少数含まれていますが、それだけでなく Amazon Bedrock アプリケーションの使用状況全体を調査してください。パターンを確認し、不正使用につながっている構造的な問題がないかを調べます。
3. 適切な措置を講じる: 必要に応じて、修正の実装、保護措置の更新、違反行為を行ったユーザーへの対処、機能の再設計などの措置を講じます。不正使用を行った 1 人のエンドユーザーに対処するだけでなく、構造的な問題や根本原因に対処する修正が必要かどうかを検討してください。1 人のユーザーによる不正使用のインシデントが、継続的な不正使用につながりかねない安全メカニズムの脆弱性を示している可能性があります。
4. AWS Trust & Safety に報告する: 調査と修正の実装が完了したら、調査結果と実施した是正措置について AWS Trust & Safety に最新情報を報告します。何が起きたのか、どのように問題に対処したのかを透明性をもって説明してください。違反が発生していないと判断した場合は、その結論に至った経緯を説明してください。可能であれば、プロンプトの例とビジネスのユースケースも含めてください。

安全性と責任ある AI の開発について詳しくは、責任ある AI ポータルや機械学習のベストプラクティスに関するドキュメントなど、AWS のリソースをご覧ください。これらのリソースは、安全基準を維持しながらイノベーションを促進する、安全で効果的な AI システムを構築するための追加のツールやフレームワークを提供しています。