Amazon Bedrock Marketplace: 100 を超える基礎モデルに 1 か所でアクセス

12 月 4 日、Amazon Bedrock Marketplace をご紹介します。この新しい機能を使用することで、お客様は、Amazon Bedrock を通じて 100 を超える人気、新興、専門の基盤モデル (FM) にアクセスできます。このリリースにより、IBM や Nvidia などのエンタープライズプロバイダーの新しいモデル、韓国語処理用の Upstages の Solar Pro やタンパク質研究用の Evolutionary Scale の ESM3 などの専門モデル、および Anthropic や Meta などのプロバイダーの Amazon Bedrock 汎用 FM を見つけて、テストし、デプロイできるようになりました。

Amazon Bedrock Marketplace でデプロイされたモデルには、サーバーレスモデルと同じ標準 API を通じてアクセスでき、Converse API と互換性のあるモデルの場合は、Amazon Bedrock のエージェントや Amazon Bedrock のナレッジベースなどのツールで使用できます。

生成 AI が組織の仕組みを変え続ける中、特定のドメイン、言語、またはタスク向けに最適化された専門モデルの必要性が高まっています。しかし、これらのモデルを見つけて評価することは困難でコストがかかる場合があります。さまざまなサービスでモデルを見つけ、アプリケーションで使用するために抽象化を構築し、複雑なセキュリティとガバナンスのレイヤーを作成する必要があります。Amazon Bedrock Marketplace は、特殊な FM と汎用 FM の両方にアクセスするための単一のインターフェイスを提供することで、これらの課題に対処します。

Amazon Bedrock Marketplace の使用
使用を開始するには、Amazon Bedrock コンソールで、ナビゲーションペインの [基盤モデル] セクションで [モデルカタログ] を選択します。ここで、特定のユースケースまたは言語に役立つモデルを検索できます。検索結果には、サーバーレスモデルと Amazon Bedrock Marketplace で使用可能なモデルの両方が含まれます。プロバイダー、モダリティ (テキスト、画像、音声など)、またはタスク (分類やテキスト要約など) で結果をフィルタリングできます。

カタログには、コンテキスト適応型小規模言語モデル (SLM) を構築する Arcee AI や、多言語モデルを提供する Widn.AI などの組織が提供するモデルが含まれています。

例えば、IBM Granite モデルに興味がある場合は、IBM Data and AI のモデルを検索します。

エンタープライズアプリケーション向けに設計された言語モデルである Granite 3.0 2B Instruct を選択します。モデルを選択すると、モデルの詳細ページが開き、モデルの特徴、料金、サンプル API コールを含む使用方法など、モデルプロバイダーからの詳細情報を確認できます。

この特定のモデルにはサブスクリプションが必要なので、[サブスクリプションオプションを表示] を選択します。

サブスクリプションダイアログから、料金と法的な注意事項を確認します。[料金の詳細] には、プロバイダーが設定したソフトウェア料金が表示されます。このモデルでは、デプロイされたインフラストラクチャのほかに、追加コストは発生しません。Amazon SageMaker インフラストラクチャのコストは別途請求され、「Amazon SageMaker pricing」でご確認いただけます。

このモデルで続行するには、[サブスクライブ] を選択します。

サブスクリプションが完了すると (通常は数分かかります)、モデルをデプロイできます。[デプロイの詳細] で、デフォルト設定と推奨インスタンスタイプを使用します。

オプションの [高度な設定] を展開します。ここでは、仮想プライベートクラウド (VPC) にデプロイするか、デプロイによって使用される AWS Identity and Access Management (IAM) サービスロールを指定するかを選択できます。Amazon Bedrock Marketplace は、モデルの重みが保存されている Amazon Simple Storage Service (Amazon S3) バケットにアクセスするためのサービスロールを自動的に作成しますが、既存のロールを使用することもできます。

デフォルト値をそのままにして、デプロイを完了します。

数分後、デプロイは [稼働中] となり、ナビゲーションペインから [Marketplace デプロイ] ページに移動して確認できます。

そこで、エンドポイントを選択して詳細を表示し、インスタンスの数などの設定を編集できます。デプロイをテストするために、[プレイグラウンドで開く] を選択して、詩を書くように指示します。

デプロイされたエンドポイントがリストされる新しい [Marketplace] カテゴリを使用して、[プレイグラウンド] の [チャット/テキスト] ページからモデルを選択することもできます。

同様に、[モデルを選択] を選択し、[Marketplace] モデルエンドポイントを選択することで、Amazon Bedrock のエージェント、Amazon Bedrock のナレッジベース、Amazon Bedrock Prompt Management、Amazon Bedrock のガードレール、モデル評価などの他のツールでモデルを使用できます。

ここで使用したモデルは Text-to-Text ですが、Amazon Bedrock Marketplace を使用して、さまざまなモダリティのモデルをデプロイできます。例えば、Stability AI の Stable Diffusion 3.5 Large をデプロイした後、Amazon Bedrock のイメージプレイグラウンドで簡単なテストを実行できます。

これで、デプロイしたモデルを Amazon Bedrock InvokeModel API を通じて使用できるようになりました。モデルをデプロイすると、エンドポイントの Amazon リソースネーム (ARN) をモデル ID として使用して、AWS コマンドラインインターフェイス (AWS CLI) および任意の AWS SDK で使用できます。

チャット向けにチューニングされた Text-to-Text モデルの場合、モデルの違いを抽象化し、単一のパラメータ変更でモデルを切り替えることを可能にする Amazon Bedrock Converse API を使用することもできます。

知っておくべきこと
Amazon Bedrock Marketplace は、次の AWS リージョンでご利用いただけます: 米国東部 (バージニア北部)、米国東部 (オハイオ)、米国西部 (オレゴン)、アジアパシフィック (ムンバイ)、アジアパシフィック (ソウル)、アジアパシフィック (シンガポール)、アジアパシフィック (シドニー)、アジアパシフィック (東京)、カナダ (中部)、欧州 (フランクフルト)、欧州 (アイルランド)、欧州 (ロンドン)、欧州 (パリ)、南米 (サンパウロ)。

Amazon Bedrock Marketplace では、サードパーティーのモデルプロバイダーにソフトウェア料金を支払うほか (前の例のように料金がかからない場合もあります)、モデルエンドポイントのために選択したインスタンスのタイプと数に基づいてホスティング料金をお支払いいただきます。

新しいモデルの閲覧は、Amazon Bedrock コンソールのモデルカタログを使用して開始してください。また、Amazon Bedrock Marketplace ドキュメントにアクセスし、AWS re:Post for Amazon Bedrock にフィードバックをぜひお寄せください。community.aws では、詳細な技術コンテンツを見つけたり、ビルダーコミュニティが Amazon Bedrock をどのように使用しているかを確認したりできます。

– Danilo

原文はこちらです。