Amazon Bedrock のよくある質問

Amazon Bedrock のエージェントは、生成 AI ベースのアプリケーションをデベロッパーが簡単に作成できるようにするフルマネージド機能です。このアプリケーションでは、さまざまなユースケースのために複雑なタスクを実行したり、独自のナレッジソースに基づいて最新の回答を提供したりできます。Amazon Bedrock のエージェントは、いくつかの短いステップでタスクを自動的に分類してオーケストレーションプランを作成します。手動のコーディングは不要です。エージェントは、API を介して会社のデータに安全に接続し、データを機械可読形式に自動的に変換し、リクエストに関連情報を追加して最も正確な応答を生成します。その後、エージェントは自動的に API を呼び出してユーザーのリクエストに応じることが可能です。例えば、メーカーは、在庫レベル、販売データ、サプライチェーン情報の追跡を自動化し、効率を最大化するために最適な再注文ポイントと数量を推奨できる生成 AI アプリケーションを開発したいと考える可能性があります。Amazon Bedrock のエージェントは、フルマネージド型の機能であるため、システム統合とインフラストラクチャのプロビジョニングの管理という差別化されていない作業が不要になり、開発者は組織全体で生成 AI を最大限に活用できるようになります。

Amazon Bedrock のエージェントを使用して、FM を会社のデータソースに安全に接続できます。ナレッジベースがあれば、エージェントを使用して Amazon Bedrock の FM に追加データへのアクセスを許可できます。これにより、FM を継続的に再トレーニングしなくても、モデルがより関連性が高く、コンテキスト固有の正確な応答を生成できます。ユーザーの入力に基づいて、エージェントは適切なナレッジベースを特定し、関連情報を取得して、その情報を入力プロンプトに追加します。これにより、モデルに追加のコンテキスト情報が与えられ、補完が生成されます。

Amazon Bedrock のエージェントは、生産性の向上、カスタマーサービスエクスペリエンスの向上、ワークフロー (保険請求の処理など) の自動化を支援します。

エージェントを使用すると、デベロッパーはカスタムコードを記述しなくても、モニタリング、暗号化、ユーザーのアクセス許可、バージョニング、API 呼び出し管理をシームレスにサポートできます。Amazon Bedrock のエージェントは、ユーザーが要求したタスクの迅速なエンジニアリングとオーケストレーションを自動化します。デベロッパーは、エージェントが作成したプロンプトテンプレートをベースラインとして使用して、ユーザーエクスペリエンスを改善するためにさらに調整できます。ユーザー入力、オーケストレーションプラン、FM レスポンスを更新できます。プロンプトテンプレートにアクセスできるので、開発者はエージェントオーケストレーションをより適切に制御できます。

フルマネージド型エージェントを使用すると、インフラストラクチャのプロビジョニングや管理について心配する必要がなくなり、アプリケーションをより迅速に本番環境に移行できます。

Amazon Bedrock で処理されたすべてのカスタマーコンテンツは暗号化され、お客様が Amazon Bedrock を使用している AWS リージョンから移動することなく保管されます。

いいえ。ユーザーの入力とモデル出力は、どのモデルプロバイダーとも共有されません。

Amazon Bedrockには、セキュリティとプライバシーの要件をサポートするいくつかの機能があります。Amazon Bedrock は、Fedramp Moderate、Service and Organization Control (SOC)、International Organization for Standardization (ISO)、Health Insurance Portability and Accountability Act (HIPAA) 適格であることなど、一般的なコンプライアンス基準を満たすことができます。また、お客様は General Data Protection Regulation (GDPR) に準拠して Bedrock を利用できます。Amazon BedrockはSOC 1、2、3レポートの対象範囲に含まれているため、お客様は当社のセキュリティ統制に関する洞察を得ることができます。当社では、AWS 統制に関する広範囲にわたる第三者監査を通じてコンプライアンスを実証しています。Amazon Bedrockは、ISO 9001、ISO 27001、ISO 27017、ISO 27018、ISO 27701、ISO 22301、およびISO 20000規格のISOコンプライアンス下にあるAWSサービスの1つです。Amazon BedrockはCSAセキュリティトラストアシュアランスアンドリスク (STAR) レベル2の認定を受けており、AWSクラウドサービスのベストプラクティスの使用とセキュリティ体制を検証しています。Amazon Bedrockでは、お客様のコンテンツが基本モデルの改善に使用されることはなく、モデルプロバイダーと共有されることもありません。AWS PrivateLink を使用すると、インターネットトラフィックにデータを公開することなく、Amazon VPC から Amazon Bedrock へのプライベート接続を確立できます。

いいえ。AWS およびサードパーティーのモデルプロバイダーは、Amazon Bedrock への入力または Amazon Bedrock からの出力を使用して、Amazon Nova、Amazon Titan またはサードパーティーのモデルをトレーニングすることはありません。

Amazon Bedrock はランタイムサービス用の SDK をサポートしています。iOS と Android SDK のほか、Java、JS、Python、CLI、.NET、Ruby、PHP、Go、C++ は、テキスト入力と音声入力の両方をサポートしています。

ストリーミングはすべての SDK でサポートされています。

最新の料金情報については、Amazon Bedrock の料金ページを参照してください。

お客様の AWS サポート契約に応じて、Amazon Bedrock は、デベロッパーサポート、ビジネスサポート、エンタープライズサポートの各プランでサポートされます。

CloudWatch メトリックスを使用して、入力トークンと出力トークンを追跡できます。

お客様には、特定の Bedrock サーバーレスモデルと Bedrock Marketplace モデルの AWS Marketplace 請求書が表示されます。この理由は、「AWS のサービス条件」セクション 50.12 で説明されているように、これらのモデルがサードパーティプロバイダーによって「サードパーティコンテンツ」として販売されているためです。

Amazon Bedrock での Amazon Titan Text Express および Amazon Titan モデルのための継続的な事前トレーニングをリリースしました。継続的な事前トレーニングにより、大量のラベルなしデータを使用して Amazon Titan ベースモデルで事前トレーニングを継続できます。このタイプのトレーニングは、Amazon Titan ベースモデルのほとんどの機能を維持したまま、一般的なドメインコーパスからのモデルを、医療、法律、金融などのより特定的なドメインコーパスに適応させます。 

企業は特定のドメインのタスクのためにモデルを構築したいと考えるかもしれません。基本モデルは、その特定の分野で使用されている専門用語でトレーニングされていない場合があります。そのため、ベースモデルを直接微調整するには、正確な結果を得るために、大量のラベル付けされたトレーニングレコードと長時間のトレーニングが必要になります。この負担を軽減することを目的として、お客様は代わりに、継続的な事前トレーニングジョブのために、ラベルなしの大量のデータを提供できます。このジョブは、Amazon Titan ベースモデルを新しいドメインに適合させます。その後、お客様は、大幅に少ないラベル付けされたトレーニングレコードを使用して、かつ、より短いトレーニング時間で、新しく事前トレーニングされたカスタムモデルをダウンストリームのタスクに合わせて微調整できます。 

Amazon Bedrock の継続的な事前トレーニングと微調整の要件は非常によく似ています。このため、当社は継続的な事前トレーニングと微調整の両方をサポートする統合 API を作成する予定です。API の統合は、学習曲線を緩やかにするとともに、お客様が Amazon EventBridge などの標準機能を使用して、長時間実行されるジョブ、トレーニングデータを取得するための Amazon S3 統合、リソースタグ、モデル暗号化を追跡するのに役立ちます。 

継続的な事前トレーニングは、Amazon Titan モデルの基本機能を維持したまま、Amazon Titan モデルをドメイン固有のデータに適応させるのに役立ちます。継続的な事前トレーニングジョブを作成するには、Amazon Bedrock コンソールに移動し、[カスタムモデル] をクリックします。 [モデル] と [トレーニングジョブ] の 2 つのタブがあるカスタムモデルページに移動します。どちらのタブにも、右側に [モデルをカスタマイズ] ドロップダウンメニューが表示されます。ドロップダウンメニューから [継続的な事前トレーニング] を選択して、[継続的な事前トレーニングジョブを作成] に移動します。 ソースモデル、名前、モデル暗号化、入力データ、ハイパーパラメーター、出力データを提供します。さらに、ジョブの AWS Identity and Access Management (IAM) ロールとリソースポリシーに関する詳細とともにタグを指定できます。

Amazon Bedrock でのみ使用できる Amazon Titan モデルファミリーには、ビジネス全体で AI と機械学習のイノベーションに取り組んできた 25 年間に及ぶ Amazon の経験が組み込まれています。Amazon Titan FM は、フルマネージド API を通じて、高性能な画像、マルチモーダル、テキストモデルの幅広い選択肢をお客様に提供します。Amazon Titan モデルは AWS によって作成され、大規模なデータセットで事前にトレーニングされているため、さまざまなユースケースをサポートすると同時に、AI の責任ある使用をサポートするように構築された強力な汎用モデルとなっています。そのまま使用することも、独自のデータを使用して個人的にカスタマイズすることもできます。Amazon Titan の詳細をご覧ください。

Amazon Titan FM の開発とトレーニングのために処理されるデータの詳細については、Amazon Titan モデルトレーニングとプライバシーのページにアクセスしてください。

ウェブ、Amazon Simple Storage Service (Amazon S3)、Confluence (プレビュー)、Salesforce (プレビュー)、SharePoint (プレビュー) など、さまざまなソースからコンテンツを取り込むことができます。ストリーミングデータやサポートされていないソースからのデータをプログラムで取り込むこともできます。Redshift データウェアハウスや AWS Glue データカタログなどの構造化データソースに接続することもできます。

Amazon Bedrock のナレッジベースは、自然言語を実用的な SQL クエリに変換してデータを取得するために、マネージド自然言語から SQL への変換を提供します。これにより、これらのソースのデータを使用してアプリケーションを構築できます。

はい。セッションコンテキスト管理が組み込まれているため、アプリケーションは複数のインタラクションにわたってコンテキストを維持できます。これは、マルチターンの会話をサポートするために不可欠です。

はい。取得したすべての情報には引用が含まれています。これにより、透明性が高まり、生成された応答におけるハルシネーションのリスクが最小限に抑えられます。

Amazon Bedrock のナレッジベースはマルチモーダルデータ処理をサポートしているため、デベロッパーは、画像、グラフ、図、表など、テキストデータとビジュアルデータの両方を分析する生成 AI アプリケーションを構築できます。モデルの応答では、テキストに加えてビジュアル要素からのインサイトを活用できるため、より正確でコンテキストを踏まえた関連性の高い回答を得ることができます。さらに、応答のソース属性にはビジュアル要素が含まれるため、応答における透明性と信頼性が高まります。

Amazon Bedrock のナレッジベースは、画像、表、グラフ、図などを含む場合がある、視覚的にリッチな PDF 形式のドキュメントを処理できます。画像のみのデータの場合、Bedrock のナレッジベースは JPEG や PNG などの標準画像形式をサポートし、ユーザーがテキストベースのクエリに基づいて関連する画像を取得できる検索機能を実現にします。

お客様は、Bedrock のナレッジベースで 3 つの解析オプションを使用できます。テキストのみの処理の場合、組み込みのデフォルトの Bedrock パーサーを追加料金なしでご利用いただけます。これは、マルチモーダルデータ処理が不要な場合に最適です。Amazon Bedrock のデータオートメーション (BDA) または基盤モデルを使用して、マルチモーダルデータを解析できます。詳細については、製品ドキュメントをご覧ください。 

Amazon Bedrock のナレッジベースは、コンテンツの比較、障害処理、スループットコントロール、暗号化など、さまざまなワークフローの複雑さを処理し、AWS の厳格なセキュリティ標準に従ってデータが安全に処理および管理されるようにします。

Amazon Bedrock でのモデル評価では、いくつかの短いステップだけで、ユースケースに最適な FM を評価、比較、選択できます。Amazon Bedrock では、自動評価と人間による評価を選択できます。精度、堅牢性、毒性などの事前定義されたメトリクスを使用して自動評価を使用できます。人間による評価ワークフローは、親しみやすさ、スタイル、ブランドボイスとの整合性など、主観的な指標やカスタム指標に使用できます。人間による評価では、社内の従業員や AWS が管理するチームにレビュー担当になってもらうことができます。Amazon Bedrock でのモデル評価には、厳選されたデータセットが組み込まれていますが、独自のデータセットを持ち込むこともできます。

自動評価を使用して、精度、堅牢性、毒性など、事前に定義されたさまざまなメトリックを評価できます。人間による評価ワークフローは、親しみやすさ、関連性、スタイル、ブランドボイスとの整合性など、主観的な指標やカスタム指標にも使用できます。

自動評価により、標準基準（精度、毒性、堅牢性など）に照らして、使用可能なFMのリストをすばやく絞り込むことができます。人間ベースの評価は、人間の判断を必要とし、自動評価が存在しない可能性がある (ブランドボイス、クリエイティブな意図、親しみやすさなど)、より微妙な、または主観的な基準を評価するためによく使用されます。

厳選された組み込みデータセットや、独自のプロンプトデータセットを利用することで、正確性、堅牢性、毒性などのメトリクスについて、Amazon Bedrock モデルを迅速に評価できます。プロンプトデータセットが Amazon Bedrock モデルに送信されて推論された後、モデル応答は各ディメンションの評価アルゴリズムで採点されます。バックエンドエンジンは、個々のプロンプトレスポンススコアを要約スコアに集約し、わかりやすいビジュアルレポートで表示します。

Amazon Bedrock を利用すると、いくつかの短いステップで人間によるレビューのワークフローを設定し、社内の従業員や AWS が管理するエキスパートチームにモデルを評価させることができます。Amazon Bedrock の直感的なインターフェイスを通じて、人間のユーザーは、クリックして親指を上げ下げしたり、1～5 段階で評価したりするほか、複数の回答の中から最適なものを選択したり、プロンプトをランク付けしたりすることで、モデルの応答を確認してフィードバックを提供できます。たとえば、チームメンバーに、同じプロンプトに対して 2 つのモデルがどのように反応するかを示し、より正確で関連性の高い、または文体的なアウトプットを示すモデルを選択するように指示することができます。チーム向けの評価 UI で表示される指示とボタンをカスタマイズすることによって、自らにとって重要な評価基準を指定できます。また、モデル評価の例や全体的な目標を含む詳細な指示を提供して、ユーザーがそれに合わせて自らの作業を整合できるようにすることもできます。この方法は、自動評価では簡単に判断できない、人間の判断や、対象分野に関するより詳細な専門知識を必要とする主観的な基準を評価するのに役立ちます。

Amazon Bedrock ガードレールは、ユースケースと責任ある AI ポリシーに基づいて、お客様が生成 AI アプリケーションの保護を実装するのに役立ちます。さまざまなユースケースに合わせて複数のガードレールを作成し、複数の基盤モデル (FM) で適用することで、一貫したユーザーエクスペリエンスを提供し、生成 AI アプリケーション全体で安全性とプライバシーコントロールを標準化できます。

ガードレールは、お客様による生成 AI アプリケーションの保護に資する一連の 6 個のポリシーを定義するのに役立ちます。Amazon Bedrock ガードレールでは次のポリシーを設定できます:

• マルチモーダルコンテンツフィルター – 憎悪、侮辱、性的、暴力、不正行為、プロンプト攻撃などのカテゴリ全体で有害なテキストや画像コンテンツを検出およびフィルタリングするためのしきい値を設定します。

• 拒否されたトピック – アプリケーションのコンテキストでは望ましくないトピックのセットを定義します。フィルターは、ユーザークエリまたはモデル応答で検出されたこれらのトピックをブロックするのに役立ちます。

• 単語フィルター – 望ましくない語句や卑猥な表現 (完全一致) をブロックするのに役立つフィルターを設定します。このような単語には、不快な用語、競合他社の名称などを含めることができます。

• 機密情報フィルター – 個人を特定できる情報 (PII) や、ユーザー入力およびモデル応答のカスタム正規表現などの機密情報をブロックまたはマスキングするのに役立つフィルターを設定します。ブロックまたはマスキングは、エンティティの標準形式の機密情報 (SSN 番号、生年月日、住所など) の確率的検出に基づいて行われます。これにより、識別子のパターンの正規表現ベースの検出を設定することもできます。

• コンテキストを踏まえたグラウンディングチェック – 応答がソース情報を根拠としておらず (事実上不正確である、または新しい情報である、など)、ユーザーのクエリや指示と関連性がない場合に、ハルシネーションを検出してフィルタリングするのに役立ちます。

• 自動推論チェック – 自動推論ポリシーと呼ばれる構造化された数学的知識表現に照らしてチェックすることで、生成されたコンテンツ内の事実の不正確さを検出し、修正を提案するとともに、応答が正確である理由を説明するのに役立ちます。

Bedrock ガードレールは、テキストと画像の両方のコンテンツをサポートしており、お客様が安全な生成 AI アプリケーションを大規模に構築できるようにします。

Amazon Bedrock ガードレールは、Amazon Bedrock でサポートされる FM、ファインチューニングされたモデル、Amazon Bedrock の外部でセルフホストされるモデルなど、幅広いモデルで機能します。ユーザー入力とモデル出力は、ApplyGuardrail API を使用して、サードパーティーモデルとセルフホストされるモデルに関して個別に評価できます。Amazon Bedrock のガードレールは、責任ある AI ポリシーに整合的な、安全かつセキュアな生成 AI アプリケーションを構築するために、Amazon Bedrock のエージェントやナレッジベースと統合することも可能です

現在、Amazon Bedrock ガードレールは、自然言語で英語、フランス語、スペイン語をサポートしています。他の言語を使用すると、質の低い結果が得られます。

5 つのガードレールポリシーがあり、それぞれ異なる、すぐに使用できる保護機能を備えています

• コンテンツフィルター – これには 6 つの既製のカテゴリ (憎悪、侮辱、性的、暴力、不正行為 (犯罪行為を含む)、およびプロンプト攻撃 (ジェイルブレイクやプロンプトインジェクション)) があります。各カテゴリには、フィルタリングの強度の観点からさらにカスタマイズされたしきい値 (テキストと画像コンテンツの両方について、低/中/高) を設定できます。
• 拒否されたトピック – これらは、お客様がシンプルな自然言語による説明を使用して定義できる、カスタマイズされたトピックです
• 機密情報フィルター – これらは 30 以上のすぐに使用できる PII を備えています。機密性の高いお客様の機密情報を追加することで、さらにカスタマイズできます。
• 単語フィルター – 既製の冒涜的なフィルタリングが付属しており、カスタム単語でさらにカスタマイズできます。
• コンテキストを踏まえたグラウンディングチェック – RAG、要約、会話型アプリケーションのハルシネーションを検出するのに役立ちます。この場合、ソース情報はモデル応答を検証するための参照として使用できます。

5 つのガードレールポリシーがあり、それぞれ異なる、すぐに使用できる保護機能を備えています

• コンテンツフィルター – これには 6 つの既製のカテゴリ (憎悪、侮辱、性的、暴力、不正行為 (犯罪行為を含む)、およびプロンプト攻撃 (ジェイルブレイクやプロンプトインジェクション)) があります。各カテゴリには、フィルタリングの強度の観点からさらにカスタマイズされたしきい値 (低/中/高) を設定できます。
• 拒否されたトピック – これらは、お客様がシンプルな自然言語による説明を使用して定義できる、カスタマイズされたトピックです
• 機密情報フィルター – これらは 30 以上のすぐに使用できる PII を備えています。機密性の高いお客様の機密情報を追加することで、さらにカスタマイズできます。
• 単語フィルター – 既製の冒涜的なフィルタリングが付属しており、カスタム単語でさらにカスタマイズできます。
• コンテキストを踏まえたグラウンディングチェック – RAG、要約、会話型アプリケーションのハルシネーションを検出するのに役立ちます。この場合、ソース情報はモデル応答を検証するための参照として使用できます。

Amazon Bedrock ガードレールは、IAM ポリシーベースの強制適用機能を使用して、あらゆる推論呼び出しのために必須のガードレールを確立できるようにします。詳細については、こちらをご覧ください。 

AWS は、次の一般提供されている Amazon の生成 AI サービスの生成出力から生じる著作権侵害の申立てについて、上限なしの知的財産 (IP) 補償を提供します: Amazon のモデル、および「サービス条件」のセクション 50.10 に記載されている他のサービス (以下「補償付き生成 AI サービス」という)。つまり、補償付き生成 AI サービスは、顧客から提供された入力やその他のデータに応じて生成される出力によって、著作権侵害を主張する第三者の請求から保護されるということです。また、お客様は、権利を侵害するデータを入力しない、サービスのフィルタリング機能を無効にしないなど、責任をもってサービスを利用する必要があります。

Amazon Bedrock ガードレールの使用には別途費用がかかります。その費用は入力と出力の両方にかかります。料金はこちらのページの下部にあります。

Amazon Bedrock ガードレールは、社会保障番号や電話番号を含む 31 種類の PII をサポートする機密情報フィルターを提供しています。詳細なリストについては、こちらをご覧ください。

Amazon Bedrock ガードレールは、テキストと画像コンテンツの両方について、使用量モデルで料金設定されています。料金の詳細については、ガードレールの料金ページをご覧ください。

はい。Amazon Bedrock Guardrail API は、お客様が自動テストを実行するのに役立ちます。「テストケースビルダー」は、ガードレールを本番でデプロイする前に使用することもできます。ネイティブのテストケースビルダーはまだありません。本番トラフィックを継続的にモニタリングするために、ガードレールは入力と出力ごとにすべての違反の詳細なログを提供するのに役立ちます。これにより、お客様は生成 AI アプリケーションに出入りするすべての入力をきめ細かくモニタリングできます。これらのログは CloudWatch または S3 に保存でき、お客様の要件に基づいてカスタムダッシュボードを作成するために使用できます。

自動推論ポリシーを使用すると、自動推論チェックは、コンテンツ内の正確な主張と事実の不正確さの両方を指摘できます。自動推論チェックは、正確な記述と不正確な記述の両方で、出力について検証可能で論理的な説明を提供します。自動推論チェックでは、ポリシーを作成するためにドメインエキスパートの事前の関与が必要であり、ルールを定義するコンテンツのみがサポートされます。一方、Bedrock のガードレールにおけるコンテキストグラウンディングチェックでは、機械学習の手法を用いて、生成されたコンテンツがナレッジベースからの入力として提供されたドキュメントに厳密に従うようにします。追加の事前作業は不要です。自動推論チェックとコンテキストグラウンディングはいずれも、Guardrail API 出力でフィードバックを提供します。お客様はそのフィードバックを使用して、生成されたコンテンツを更新できます。

Bedrock ガードレールでは、PNG および JPEG の画像形式がサポートされています。

Amazon Bedrock Marketplace は、お客様が生成 AI アプリケーションを簡単に構築および最適化できるよう、Amazon Bedrock のサーバーレス FM に加えて、100 を超える人気のモデル、新興モデル、専門的なモデルをお客様に提供します。お客様は Amazon Bedrock コンソール内で、さまざまなプロバイダーが提供する FM の幅広いカタログを見つけることができます。その後、これらのモデルをフルマネージドエンドポイントにデプロイして、必要なインスタンス数とインスタンスタイプを選択できます。モデルがデプロイされると、Amazon Bedrock の Invoke API を通じてモデルにアクセスできます。チャット向けにチューニングされた Text-to-Text モデルの場合、お客様は新しい Converse API を使用できます。これは、FM の違いを抽象化し、単一のパラメータ変更でモデルを切り替えることができるようにする統合 API です。該当する場合、モデルは Amazon Bedrock のプレイグラウンド、エージェント、ナレッジベース、プロンプト管理、プロンプトフロー、ガードレール、およびモデル評価で使用できます。

生成 AI 業界でイノベーションが起こり続ける中、急速に出現している強力なモデルの恩恵を享受するには、Amazon Bedrock Marketplace を使用すべきです。独自の要件に合わせてカスタマイズされた、人気のモデル、新興モデル、専門的なモデルに迅速にアクセスしてデプロイできるため、市場投入までの時間を短縮し、精度を高め、生成 AI ワークフローのコストを削減できます。モデルには Bedrock の統合 API を通じてアクセスでき、Bedrock の Converse API と互換性がある場合は、エージェント、ナレッジベース、ガードレールなどの Bedrock ツールでネイティブに使用できます。Amazon Bedrock Marketplace を Amazon Bedrock のサーバーレスモデルに簡単に接続できます。すべて 1 か所から行えます。
 

必要なのは、Bedrock コンソールの Amazon Bedrock モデルカタログページに移動することだけです。ここで、Amazon Bedrock Marketplace モデルのリストと Amazon Bedrock のサーバーレスモデルを検索できます。使用する Amazon Bedrock Marketplace モデルを選択したら、[モデルの詳細] ページを通じてモデルをサブスクライブし、プロバイダーが設定した EULA と料金を承諾します。サブスクリプションが完了すると (通常は数分かかります)、[モデルの詳細] ページで [デプロイ] をクリックするか、または API を使用して、フルマネージド SageMaker エンドポイントにモデルをデプロイできます。デプロイステップでは、ワークロードに合わせて必要なインスタンス数とインスタンスタイプを選択できます。エンドポイントのセットアップが完了すると (通常は 10～15 分かかります)、エンドポイントに対する推論呼び出しを開始して、Bedrock の高度なツールでモデルを使用できます (モデルが Bedrock の Converse API と互換性がある場合)。

カスタムモデルインポートによってサポートされているアーキテクチャのモデル (Mistral、Mixtral、Flan、および Llama2/3/3.1/3.2) は、SageMaker でファインチューニングし、カスタムモデルインポートを介して Amazon Bedrock で使用可能にすることができます。カスタムモデルインポートによってサポートされていないモデルも、SageMaker でファインチューニングできます。ただし、これらのモデルのファインチューニングバージョンは Amazon Bedrock では使用できません。

Bedrock のデータオートメーションとは何ですか? Amazon Bedrock のデータオートメーションは、生成 AI アプリケーションの開発を効率化し、ドキュメント、画像、音声、動画を含むワークフローを自動化する、生成 AI を利用した Bedrock の機能です。Bedrock のデータオートメーションを活用することで、デベロッパーは開発時間と労力を削減し、インテリジェントドキュメント処理、メディア分析、他のマルチモーダルデータ中心のオートメーションソリューションをより容易に構築できるようになります。Bedrock のデータオートメーションは、業界をリードする精度を代替ソリューションよりも低コストで提供し、高い説明可能性を実現するための信頼スコアを提供するビジュアルグラウンディングや組み込みのハルシネーション緩和などの機能も備えています。これにより、非構造化マルチモーダルデータソースから信頼性が高く正確なインサイトを得ることができます。お客様は、Bedrock のデータオートメーションの出力を簡単にカスタマイズして、システムやアプリケーションに必要な一貫した形式で特定のインサイトを生成できます。デベロッパーは Amazon Bedrock コンソールで Bedrock のデータオートメーションの使用を開始し、そこでサンプルデータを使用して出力を設定およびカスタマイズできます。その後、Bedrock のデータオートメーションの統合マルチモーダル推論 API をアプリケーションに統合して、非構造化コンテンツを高い精度と一貫性をもって本番スケールで処理できます。また、Bedrock のデータオートメーションは Bedrock のナレッジベースとも統合されるため、デベロッパーは非構造化マルチモーダルコンテンツから有意義な情報をより簡単に生成でき、検索拡張生成 (RAG) でより関連性の高い応答を提供できます。

Bedrock のデータオートメーションを使用すると、非構造化企業データを、生成 AI アプリケーションや ETL ワークフローで利用できるアプリケーション固有の出力形式に簡単に変換できます。お客様は、複数のモデルの管理とオーケストレーション、プロンプトエンジニアリング、安全ガードレールの実装、または下流のシステム要件に合わせて出力をまとめることに時間と労力を費やす必要がなくなりました。Bedrock のデータオートメーションは、非構造化データの一貫性があり、コスト効率の高い高精度の処理を実現します。 Bedrock のデータオートメーションは、責任ある AI を念頭に置いて構築されており、ビジュアルグラウンディングや信頼スコアなどの主要な機能をお客様に提供し、エンタープライズワークフロー内で Bedrock のデータオートメーションを簡単に統合できるようにします。

Bedrock のデータオートメーションの機能は、お客様がアプリケーションに簡単に統合できるフルマネージド API を介してご使用いただけます。お客様は、基盤となるコンピューティングリソースのスケーリング、モデルの選択とオーケストレーション、FM のプロンプトの管理について心配する必要はありません。

ブループリントは、お客様が自然言語またはスキーマエディタを使用して出力要件を指定するために使用する機能です。ブループリントには、抽出するフィールドのリスト、各フィールドのデータ形式、および各フィールドの自然言語による指示が含まれます。例えば、デベロッパーは「次のフィールドを含む請求書のブループリントを作成してください: tax、dueDate、ReceiptDate」または「請求書の合計が明細の合計と一致することを確認してください」と入力できます。 システムがブループリントで説明されている形式で情報を返すように、推論 API コールの一部としてブループリントを参照します。

ドキュメント

Bedrock のデータオートメーションは、ドキュメントの標準出力とカスタム出力の両方をサポートしています。

• 標準出力は、ドキュメントからのテキストの抽出と、ドキュメントの概要や図表のキャプションなどの生成出力を提供します。出力は読み取り順に返され、オプションでレイアウト要素別にグループ化できます。レイアウト要素には、ヘッダー/フッター/タイトル/図表が含まれます。標準出力は、Bedrock のナレッジベースとの BDA 統合に使用されます。
• カスタム出力は、自然言語またはスキーマエディタを使用して出力要件を指定するブループリントを活用します。ブループリントには、抽出するフィールドのリストと各フィールドのデータ形式が含まれています。

Bedrock Data Automation は、PDF、PNG、JPG、TIFF、最大 1500 ページ、API リクエストあたり最大 500 MB のファイルサイズをサポートします。デフォルトでは、BDA は顧客あたり 50 件の同時ジョブと 1 秒あたり 10 件のトランザクションをサポートします。

イメージ

Bedrock のデータオートメーションは、画像の標準出力とカスタム出力の両方をサポートしています。

• 標準出力では、画像の要約、検出された明示的なコンテンツ、検出されたテキスト、ロゴ検出、広告分類法 (IAB) を提供します。標準出力は、Bedrock のナレッジベースとの BDA 統合に使用されます。
• カスタム出力は、自然言語またはスキーマエディタを使用して出力要件を指定するブループリントを活用します。ブループリントには、抽出するフィールドのリストと各フィールドのデータ形式が含まれています。

Bedrock Data Automation は、JPG、PNG、最大 4K の解像度、API リクエストあたり最大 5 MB のファイルサイズをサポートします。デフォルトでは、BDA は顧客あたり 1 秒あたり 10 件のトランザクション (TPS) で最大 20 枚の画像の同時実行をサポートします。

動画

Bedrock のデータオートメーションは、動画の両方の標準出力をサポートしています。

• 標準出力は、動画の完全な概要、チャプターのセグメンテーション、チャプターの概要、完全な音声文字起こし、話者識別、露骨なコンテンツの検出、テキストの検出、ロゴ検出、動画の Interactive Advertising Bureau (IAB) 分類法を提供します。動画の完全な概要は、製品の概要、トレーニング、ニュースキャスト、ドキュメンタリーなどの説明的な会話を含むコンテンツ向けに最適化されます。

Bedrock Data Automation は、H.264、VP8、VP9 の MOV および MKV、最大 4 時間の動画時間、API リクエストあたり最大 2 GB のファイルサイズをサポートします。デフォルトでは、BDA は顧客あたり 1 秒あたり 10 件のトランザクション (TPS) で最大 20 個の動画の同時実行をサポートします。

音声

Bedrock のデータオートメーションは、音声の両方の標準出力をサポートしています。

• 標準出力は、音声ファイルのチャプターの要約、完全な文字起こし、および露骨なコンテンツの検出を含む要約を提供します。

Bedrock Data Automation は、FLAC、M4A、MP3、MP4、Ogg、WebM、WAV、最大 4 時間の音声時間、API リクエストあたり最大 2 GB のファイルサイズをサポートします。

Amazon Bedrock Data Automation は米国西部 (オレゴン) および米国東部 (バージニア北部) の AWS リージョンで一般提供されています。

Amazon Bedrock Data Automation は現在英語をサポートしています。2025 年には、他の言語サポートも間もなく開始される予定です。

Amazon Bedrock には、AWS マネジメントコンソール、API、または Amazon SageMaker Unified Studio を通じてアクセスできます。Amazon SageMaker Unified Studio 内では、ユーザーは高性能な基盤モデル (FM) を使用して、生成 AI アプリケーションを迅速に構築し、イテレーションできます。直感的なインターフェイスを通じて、生成 AI アプリケーションを迅速に構築するために、モデルを実験したり、プロジェクトでコラボレーションしたり、さまざまな Bedrock ツールやリソースに対する合理化されたアクセスを取得したりできます。

Amazon SageMaker Unified Studio 内で Amazon Bedrock の機能にアクセスするには、デベロッパーとその管理者は次のステップに従う必要があります:

1. Amazon SageMaker Unified Studio で新しいドメインを作成します。
2. 生成 AI アプリケーション開発プロジェクトプロファイルを有効にします。
3. Amazon SageMaker Unified Studio 内の自社のシングルサインオン (SSO) 認証情報を使用して、生成 AI プレイグラウンド (発見) および生成 AI アプリ開発 (構築) セクションから Amazon Bedrock にアクセスできます。

Amazon Bedrock には AWS マネジメントコンソール、API や Amazon SageMaker Unified Studio からアクセスできますが、SageMaker Unified Studio 内の機能は、元の Amazon Bedrock Studio (現在は利用不可) をベースに構築されており、いくつかの重要な改良が加えられています。Amazon SageMaker Unified Studio からアクセスすると、大手企業の高度な AI モデルや AI プロンプトを作成およびテストするためのツールにアクセスでき、Amazon Bedrock ナレッジベース、Amazon Bedrock ガードレール、Amazon Bedrock Flows、Amazon Bedrock エージェントとのシームレスな統合が可能になります。チームは共有ワークスペースで共同作業を行い、ニーズに合ったカスタム AI アプリケーションを構築できます。

新機能には、AI モデルを並べて比較するためのモデルハブ、チャット、画像、動画インタラクションをサポートする拡張プレイグラウンド、ウェブクローリングによるナレッジベースの作成の改善が含まれます。より複雑なチャットアプリケーション用のエージェント作成が導入され、組織内での AI アプリケーションとプロンプトの共有が簡素化されます。また、基盤となるアプリケーションコードへのアクセスや、チャットアプリケーションを CloudFormation テンプレートとしてエクスポートする機能も提供します。AWS インフラストラクチャの詳細を管理することで、さまざまなスキルレベルのユーザーが AI アプリケーションをより効率的に作成できるようになります。これにより、それらのアプリケーションは、以前のバージョンよりも汎用性が高く強力なツールとなります。

Amazon Bedrock IDE は、Amazon SageMaker Unified Studio の管理された環境を通じてアクセスする Amazon Bedrock のコア機能をよりよく表すように名前が変更されました。

Amazon SageMaker Unified Studio から Amazon Bedrock のインターフェイスにアクセスすると、チームはコラボレーションを可能にする管理された環境の恩恵を受けることができます。チームはプロジェクトを作成し、同僚を招待して、共同で生成 AI アプリケーションを構築できます。プロトタイプに関する迅速なフィードバックを受け取り、SageMaker Unified Studio 内の誰とでも、またはドメイン内の特定のユーザーとアプリケーションを共有できます。堅牢なアクセスコントロールとガバナンス機能により、データや生成 AI アプリケーションなどのプロジェクトリソースにアクセスできるのは認可されたメンバーのみとすることができます。これにより、データのプライバシーとコンプライアンスがサポートされ、部門間の安全なコラボレーションと共有が促進されます。さらに、生成 AI アプリケーションは、ビルダーから、SageMaker Unified Studio ドメイン内の特定のユーザー、または特定の個人と共有できるため、このようなアセットの適切なアクセス権、コントロール、ガバナンスが可能になります。

Amazon Bedrock には AWS マネジメントコンソール、API、または Amazon SageMaker Unified Studio を通じてアクセスできる一方で、この統合は、生成 AI 開発プロセスにおけるデータ、ツール、デベロッパー間の障壁をなくします。チームは、Amazon Bedrock の強力な生成 AI 機能をシームレスに組み込み、使い慣れた JupyterLab 環境と分析ツールにアクセスすることで、統合開発エクスペリエンスを利用できます。これらはすべて、同じワークスペース内で行われます。

この統合環境は、データ準備から、モデル開発、生成 AI アプリケーションの構築まで、開発ライフサイクル全体を通じて、さまざまなスキルレベルのデベロッパーがシームレスにコラボレーションできるようにします。チームは、ナレッジベースの作成、ガードレールの設定、高性能な生成 AI アプリケーション開発のための統合ツールにアクセスできます。これらはすべて、安全で管理されたフレームワーク内で行われます。

Amazon SageMaker Unified Studio では、デベロッパーはニーズに応じてさまざまなツールを簡単に切り替えることができ、分析、機械学習、生成 AI の機能を 1 つのワークスペースに統合できます。この統合アプローチにより、開発の複雑さが軽減され、生成 AI プロジェクトの価値実現までの時間が短縮されます。Amazon Bedrock を Amazon SageMaker Unified Studio で利用できるようにすることで、AWS はエンタープライズグレードのセキュリティとガバナンスを維持しながら、生成 AI 開発への参入障壁を低くし、最終的には組織が生成 AI を使用してより迅速かつ効果的にイノベーションを起こせるようにします。

Amazon SageMaker Unified Studio での Amazon Bedrock の機能は、生成 AI アプリケーションを共同で構築およびデプロイするための統制された環境を必要とするエンタープライズチームに最適です。Amazon SageMaker Unified Studio を通じて、チームは以下にアクセスできます。
 

• 「発見」セクションの「生成 AI プレイグラウンド」では、チームが基盤モデル (FM) を試したり、さまざまなモデルや設定をテストしたり、モデルの出力を比較したり、プロンプトやアプリケーションを共同で作成したりできます。この環境により、チームはアプリケーションに実装する前に、さまざまなモデルの機能をシームレスに評価して理解することができます。
   
• 「構築」セクションの「生成 AI アプリケーション開発」では、本番環境ですぐに使える生成 AI アプリケーションの作成に必要なツールをチームに提供します。チームはガバナンスとコンプライアンス統制を維持しながら、ナレッジベースの作成と管理、責任ある AI のためのガードレールの実装、エージェントとフローの開発、安全なコラボレーションを行うことができます。この環境は、企業のセキュリティとコンプライアンス基準を維持しながら、安全なコラボレーションと Amazon Bedrock の全機能へのシームレスなアクセスを必要とする組織にとって特に価値があります。

Amazon Bedrock の機能の一般提供が Amazon SageMaker Unified Studio 内で開始されました。これにより、デベロッパーが生成 AI アプリケーションを迅速に作成およびカスタマイズするのに役立つ、管理された共同作業環境が提供されます。この直感的なインターフェイスは、あらゆるスキルレベルのデベロッパーに対応します。カスタマイズされた生成 AI アプリケーションを共同で開発できるようにするため、Amazon Bedrock の高性能な基盤モデル (FM) と高度なカスタマイズツールへのシームレスなアクセスを提供します。

Amazon SageMaker Unified Studio 内で、Amazon Bedrock は Amazon SageMaker の分析、機械学習 (ML)、および生成 AI 機能とシームレスに統合します。組織は、Amazon Bedrock で基盤モデルのプロトタイプを作成して実験し、その後 JupyterLab Notebook またはコードエディタに簡単に移行して、これらのリソースをより広範なアプリケーションやワークフローに統合することで、コンセプトから本番への移行を迅速化できます。この統合ワークスペースは、複雑さを合理化し、特定のビジネス要件に整合的な、本番対応の責任ある生成 AI アプリケーションのプロトタイプ作成、イテレーション、デプロイを迅速化します。

SageMaker Unified Studio での Amazon Bedrock は、プラットフォームと、基盤モデル (FM)、ナレッジベース、エージェント、フロー、ガードレールなどの基盤となる Amazon Bedrock リソースについて定義されたアカウント制限とクォータによって拘束されます。

Amazon Bedrock は SageMaker Unified Studio を通じて追加コストなしでアクセスでき、ユーザーは構築する生成 AI アプリケーションに必要な基盤となるリソースの使用についての料金のみを支払います。例えば、お客様は、生成 AI アプリケーションで使用した、関連付けられたモデル、ガードレール、ナレッジベースの料金のみを支払います。詳細については、Amazon Bedrock の料金ページにアクセスしてください。

SageMaker Unified Studio 内の Amazon Bedrock は、Amazon Bedrock と同じ SLA に拘束されます。詳細については、「Amazon Bedrock サービスレベルアグリーメント」のページにアクセスしてください。

SageMaker Unified Studio での Amazon Bedrock のスムーズなオンボーディングエクスペリエンスを促進するために、「ユーザーガイド」で詳細なドキュメントをご覧いただけます。追加の質問がある場合やさらにサポートが必要な場合は、担当の AWS アカウントチームに遠慮なくお問い合わせください。