Amazon Bedrock のよくある質問

Amazon Bedrock のエージェントとは、生成 AI ベースのアプリケーションをデベロッパーが簡単に作成できるようにするフルマネージド型の機能です。これにより、さまざまなユースケースの複雑なタスクを実行したり、独自のナレッジソースに基づいて最新の回答を提供したりすることができます。Agents for Amazon Bedrockは、数回クリックするだけで、タスクを自動的に分類してオーケストレーションプランを作成します。手動のコーディングは不要です。エージェントは、API を介して会社のデータに安全に接続し、データを機械可読形式に自動的に変換し、リクエストに関連情報を追加して最も正確な応答を生成します。その後、エージェントは自動的に API を呼び出してユーザーのリクエストに応じることが可能です。例えば、在庫レベル、販売データ、サプライチェーン情報の追跡を自動化し、効率を最大化するために最適な再注文ポイントと数量を推奨できる生成 AI アプリケーションを開発したいと考える製造企業があるとします。Agents for Amazon Bedrockは、フルマネージド型の機能であるため、システム統合とインフラストラクチャのプロビジョニングの管理という差別化されていない作業が不要になり、開発者は組織全体で生成 AI を最大限に活用できるようになります。

Amazon Bedrockのエージェントを使用して、FMを会社のデータソースに安全に接続できます。ナレッジベースがあれば、エージェントを使用して Amazon Bedrock の FM に追加データへのアクセスを許可できます。これにより、FM を継続的に再トレーニングしなくても、モデルがより関連性が高く、コンテキスト固有の正確な応答を生成できます。ユーザーの入力に基づいて、エージェントは適切なナレッジベースを特定し、関連情報を取得して、その情報を入力プロンプトに追加します。これにより、モデルに追加のコンテキスト情報が与えられ、補完が生成されます。

Amazon Bedrock のエージェントは、生産性の向上、カスタマーサービスエクスペリエンスの向上、DevOps タスクの自動化に役立ちます。

エージェントを使用すると、デベロッパーはカスタムコードを記述しなくても、モニタリング、暗号化、ユーザー権限、API 呼び出し管理をシームレスにサポートできます。Amazon Bedrock のエージェントは、ユーザーが要求したタスクの迅速なエンジニアリングとオーケストレーションを自動化します。開発者は、エージェントが作成したプロンプトテンプレートをベースラインとして使用して、ユーザーエクスペリエンスを向上させるためにさらに調整できます。ユーザー入力、オーケストレーションプラン、FM レスポンスを更新できます。プロンプトテンプレートにアクセスできるので、開発者はエージェントオーケストレーションをより適切に制御できます。

フルマネージド型エージェントを使用すると、インフラストラクチャのプロビジョニングや管理について心配する必要がなくなり、アプリケーションをより迅速に本番環境に移行できます。

Amazon Bedrock で処理されたすべてのカスタマーコンテンツは暗号化され、お客様が Amazon Bedrock を使用している AWS リージョンから移動することなく保管されます。

いいえ。ユーザー入力とモデル出力は、どのモデルプロバイダーとも共有されません。

Amazon Bedrockには、セキュリティとプライバシーの要件をサポートするいくつかの機能があります。Bedrockは、サービスおよび組織管理（SOC）、国際標準化機構（ISO）、医療保険の相互運用性と説明責任に関する法律（HIPAA）の対象となる一般的なコンプライアンス標準の対象であり、お客様は一般データ保護規則（GDPR）に準拠してBedrockを使用できます。Amazon BedrockはSOC 1、2、3レポートの対象範囲に含まれているため、お客様は当社のセキュリティ統制に関する洞察を得ることができます。当社では、AWS 統制に関する広範囲にわたる第三者監査を通じてコンプライアンスを実証しています。Amazon Bedrockは、ISO 9001、ISO 27001、ISO 27017、ISO 27018、ISO 27701、ISO 22301、およびISO 20000規格のISOコンプライアンス下にあるAWSサービスの1つです。Amazon BedrockはCSAセキュリティトラストアシュアランスアンドリスク (STAR) レベル2の認定を受けており、AWSクラウドサービスのベストプラクティスの使用とセキュリティ体制を検証しています。Amazon Bedrockでは、お客様のコンテンツが基本モデルの改善に使用されることはなく、モデルプロバイダーと共有されることもありません。AWS PrivateLink を使用すると、インターネットトラフィックにデータを公開することなく、Amazon 仮想プライベートクラウド (VPC) から Amazon Bedrockへのプライベート接続を確立できます。

いいえ、AWS およびサードパーティーのモデルプロバイダーは、Bedrock への入力または Bedrock からの出力を使用して、Amazon Titan またはサードパーティーのモデルをトレーニングすることはありません。

Amazon Bedrock はランタイムサービス用の SDK をサポートしています。iOS と Android SDK のほか、Java、JS、Python、CLI、.NET、Ruby、PHP、Go、CPP のテキスト入力と音声入力の両方をサポートしています。

ストリーミングはすべての SDK でサポートされています。

最新の料金情報については、Amazon Bedrock の価格ページを参照してください。

お客様の AWS サポート契約に応じて、Amazon Bedrock では、デベロッパーサポート、ビジネスサポート、エンタープライズサポートの各プランをご用意しています。

CloudWatch メトリックスを使用して、入力トークンと出力トークンを追跡できます。

Amazon BedrockでTitan Text ExpressおよびTitanモデルの継続プレトレーニングを開始しました。これにより、ラベル付けされていない大量のデータを使用して、Titanベースモデルのプレトレーニングを継続できるようになります。このタイプのトレーニングでは、モデルを一般的なドメインコーパスから医療、法律、金融などのより具体的なドメインコーパスに適応させながら、Titanベースモデルのほとんどの機能を維持します。 

通常、企業は特定のドメインのタスクのモデルを構築したいと思うかもしれません。基本モデルは、その特定の分野で使用されている専門用語でトレーニングされていない場合があります。したがって、ベースモデルを直接微調整するには、正確な結果を得るには、大量のラベル付けされたトレーニング記録と長いトレーニング時間が必要になります。この負担を軽減するために、お客様は代わりにラベルのない大量のデータを提供して、継続的な事前トレーニング作業を行うことができます。このジョブは、Titan ベースモデルを新しいドメインに適合させます。そうすれば、顧客は、ラベル付けされたトレーニング記録を大幅に減らし、トレーニング時間を短縮して、新しく事前トレーニングされたカスタムモデルをダウンストリームのタスクに合わせて微調整できます。 

Bedrockの継続的プレトレーニングとファインチューニング（FT）の要件はほぼ同じです。このため、CPTとFTの両方をサポートする統合APIを作成することを選択しています。API の統合により習得時間が短縮され、お客様は CloudWatch Event Bridge などの標準機能を使用して長時間実行されるジョブを追跡したり、トレーニングデータを取得するための S3 統合、リソースタグ、モデル暗号化などの標準機能を使用できるようになります。 

事前トレーニングを継続することで、Titan モデルの基本機能を維持したまま、Titan モデルをドメイン固有のデータに簡単に適合させることができます。継続的なプレトレーニングジョブを作成するには、Bedrockコンソールに移動し、「カスタムモデル」をクリックします。[モデル] と [トレーニングジョブ] の 2 つのタブがあるカスタムモデルページに移動します。どちらのタブも、右側に「モデルのカスタマイズ」と呼ばれるドロップダウンがあります。「モデルのカスタマイズ」ドロップダウンから「継続プレトレーニング」を選択し、「継続的プレトレーニングジョブの作成」画面に移動します。ソースモデル、名前、モデル暗号化、入力データ、ハイパーパラメーター、出力データを提供します。さらに、ジョブの IAM ロールとリソースポリシーに関する詳細とともにタグを指定できます。

Amazon Bedrock限定のAmazon Titanファミリーモデルには、ビジネス全体でAIと機械学習の革新に取り組んできたAmazonの25年の経験が組み込まれています。Amazon Titan 基盤モデル (FM) は、フルマネージド API を通じて、高性能な画像、マルチモーダル、テキストモデルの選択肢を幅広くお客様に提供します。Amazon Titan モデルは AWS によって作成され、大規模なデータセットで事前にトレーニングされているため、さまざまなユースケースをサポートすると同時に、AI の責任ある使用をサポートするように構築された強力な汎用モデルとなっています。そのまま使用することも、独自のデータを使用して個人的にカスタマイズすることもできます。

Amazon Titan FM の開発とトレーニングのために処理されるデータの詳細については、Amazon Titan モデルトレーニングとプライバシーのページをご覧ください。

サポートされているデータ形式には、.pdf、.txt、.md、.html、.doc、.docx、.csv、.xls、.xlsx ファイルが含まれます。ファイルは Amazon S3 にアップロードする必要があります。Amazon S3 内のデータの場所を指定すれば、Amazon Bedrock のナレッジベースがベクトルデータベースへの取り込みのワークフロー全体を処理します。

Amazon Bedrockのナレッジベースには、埋め込みに変換する前にテキストをチャンク化する3つのオプションがあります。 

1.  デフォルトオプション:Amazon Bedrockのナレッジベースは、文書を自動的にチャンクに分割します。各チャンクには200個のトークンが含まれているため、文が途中で壊れることはありません。ドキュメントに含まれるトークンが 200 個未満の場合、それ以上分割されません。2 つの連続するチャンクの間では、トークンの 20% のオーバーラップが維持されます。

2.  固定サイズのチャンク:このオプションでは、Amazon Bedrockのナレッジベースのチャンクあたりの最大トークン数とチャンク間の重複率を指定して、文章が途中で壊れないようにドキュメントを自動的にチャンクに分割できます。 

3.  ドキュメントごとに 1 つの埋め込みを作成するオプション:Amazon Bedrock はドキュメントごとに 1 つの埋め込みを作成します。このオプションは、ドキュメントを個別のファイルに分割して前処理していて、Bedrockにドキュメントをさらにチャンク化させたくない場合に適しています。
 

現在、Amazon Bedrockのナレッジベースは、Amazon Bedrockで利用可能な最新バージョンのタイタンテキスト埋め込みモデルを使用しています。Titan テキスト埋め込みモデルは 8K トークンと 25 以上の言語をサポートし、1,536 次元サイズの埋め込みを作成します。 

Knowledge Bases for Amazon Bedrock は、ドキュメントを埋め込み (ベクター) に変換し、埋め込み内容を専用のベクターデータベースに保存するという、取り込みワークフロー全体を処理します。Amazon Bedrockのナレッジベースは、Amazon OpenSearch Serverless、Pinecone、Redis Enterprise Cloud、Amazon Aurora (近日公開予定)、MongoDB (近日公開予定) 用のベクターエンジンなど、ベクターストレージ用の一般的なデータベースをサポートしています。既存のベクトルデータベースがない場合は、Amazon Bedrock が自動的に Amazon OpenSearch Serverless ベクトルストアを作成します。

ユースケースに応じて、Amazon EventBridge を使用して、Amazon S3 と Amazon Bedrock のナレッジベースとの間で定期的またはイベント駆動型の同期を作成できます。

Amazon Bedrockのモデル評価では、数回クリックするだけで、ユースケースに最適な基盤モデルを評価、比較、選択できます。Amazon Bedrock では、自動評価と人間による評価を選択できます。精度、堅牢性、毒性などの事前定義されたメトリクスを使用して自動評価を使用できます。人間による評価ワークフローは、親しみやすさ、スタイル、ブランドボイスとの整合性など、主観的な指標やカスタム指標に使用できます。人間による評価には、社内の従業員や AWS が管理するチームをレビュー担当者として活用できます。モデル評価には、厳選されたデータセットが組み込まれていますが、独自のデータセットを持ち込むこともできます。

自動評価を使用して、精度、堅牢性、毒性など、事前に定義されたさまざまなメトリックを評価できます。人間による評価ワークフローは、親しみやすさ、関連性、スタイル、ブランドボイスとの整合性など、主観的な指標やカスタム指標にも使用できます。

自動評価により、標準基準（精度、毒性、堅牢性など）に照らして、使用可能なFMのリストをすばやく絞り込むことができます。人間ベースの評価は、人間の判断を必要とし、自動評価が存在しない可能性がある場合（ブランドの声、クリエイティブな意図、親しみやすさなど）、より微妙な、または主観的な基準を評価するためによく使用されます。

精選された組み込みデータセットを活用するか、独自のプロンプトデータセットを活用することで、Bedrockモデルの正確性、堅牢性、毒性などの指標をすばやく評価できます。プロンプトデータセットが Amazon Bedrock モデルに送信されて推論された後、モデル応答は各ディメンションの評価アルゴリズムで採点されます。バックエンドエンジンは、個々のプロンプトレスポンススコアを要約スコアに集約し、わかりやすいビジュアルレポートで表示します。

Amazon Bedrockを使用すると、数回クリックするだけで人間によるレビューワークフローを設定し、社内の従業員を招いたり、AWSが管理する専門チームを活用してモデルを評価したりできます。Amazon Bedrockの直感的なインターフェイスを通じて、人間は、親指を上下にクリックしたり、1～5段階で評価したり、複数の回答の中から最適なものを選択したり、プロンプトをランク付けしたりすることで、モデルの回答を確認してフィードバックすることができます。たとえば、チームメンバーに、同じプロンプトに対して 2 つのモデルがどのように反応するかを示し、より正確で関連性の高い、または文体的なアウトプットを示すモデルを選択するように指示することができます。チームの評価 UI に表示される指示とボタンをカスタマイズするだけで、自分にとって重要な評価基準を指定できます。また、例やモデル評価の全体的な目標を含む詳細な指示を提供して、それに応じて作業を調整できるようにすることもできます。この方法は、自動評価では簡単に判断できない、人間の判断やより微妙な対象分野の専門知識を必要とする主観的な基準を評価するのに役立ちます。

Guardrails for Amazon Bedrock では、お客様のユースケースと責任ある AI ポリシーに基づいて、生成 AI アプリケーションの安全対策を実装できます。Guardrails は、望ましくない有害なコンテンツをフィルタリングすることで、ユーザーと Foundation Model（FM）間の相互作用を制御するのに役立ちます。また、まもなく個人を特定できる情報（PII）が編集され、生成 AI アプリケーションにおけるコンテンツの安全性とプライバシーが強化されます。特定のユースケースに合わせて、構成が異なる複数のガードレールを作成できます。さらに、ガードレール内の顧客が定義したポリシーに違反する可能性のあるユーザー入力やFM応答を継続的に監視および分析できます。

Guardrailsを使用すると、顧客は生成 AI アプリケーションの保護に役立つ一連のポリシーを定義できます。ガードレールには次のポリシーを設定できます。

• 拒否されたトピック — アプリケーションのコンテキストでは望ましくないトピックのセットを定義できます。たとえば、オンラインバンキングアシスタントは、投資アドバイスを提供しないように設計できます。
• コンテンツフィルター — 憎悪、侮辱、性的、暴力のカテゴリにわたって有害なコンテンツをフィルタリングするように閾値を設定できます。
• ワードフィルター (近日公開予定) — ユーザー入力や FM で生成されたレスポンスでブロックする単語のセットを定義できます。
• PIIの編集（近日公開予定）— FMで生成された回答で編集できるPIIのセットを選択できます。ユースケースによっては、ユーザー入力にPIIが含まれている場合、その入力をブロックすることもできます。

ガードレールは、タイタン、アンソロピッククロード、メタラマ2、AI21 ジュラシック、コヘアコマンドFMなど、Amazon Bedrockで入手可能なすべての大規模言語モデルで使用できます。また、Amazon Bedrockのエージェントだけでなく、微調整されたFMでも使用できます。

AWS は、一般に提供されている Amazon ジェネレーティブ AI サービス (Amazon Titan モデル、Amazon CodeWhisperer Professional、およびサービス規約のセクション 50.10 に記載されているその他のサービス (以下「補償付き生成 AI サービス」) の生成的出力から生じる著作権侵害の申し立てに対して、知的財産 (IP) による損害賠償を無償で提供しています。つまり、補償付き生成 AI サービスは、顧客から提供された入力やその他のデータに応じて生成される出力によって、著作権侵害を主張する第三者の請求から保護されるということです。また、お客様は、権利を侵害するデータを入力したり、本サービスのフィルタリング機能を無効にしたりしないなど、責任を持って本サービスを利用しなければなりません。

さらに、本サービスの利用に関する当社の標準知的財産補償は、本サービスおよびお客様のトレーニングに使用されたデータによる知的財産権侵害を主張する第三者からの請求（著作権侵害を含む）からお客様を保護します。