Amazon Bedrock インテリジェントプロンプトルーティングがプレビュー版で利用可能に
Amazon Bedrock インテリジェントプロンプトルーティングにより、モデルファミリー内のさまざまな基盤モデルにプロンプトをルーティングし、応答の質とコストを最適化できます。インテリジェントプロンプトルーティングでは、高度なプロンプトマッチングとモデル理解技術を使用して、各リクエストについて各モデルのパフォーマンスを予測し、最も低いコストで目的の応答が得られる可能性が最も高いと予測されるモデルに各リクエストを動的にルーティングします。お客様は、Claude Sonnet 3.5 と Claude Haiku の間、または Llama 3.1 8B と Llama 3.1 70B の間でリクエストをルーティングする、プレビュー版の 2 つのプロンプトルーターから選択できます。
Amazon Bedrock は、主要な AI 企業が提供する高性能な基盤モデルを 1 つの API で選択できるフルマネージド型サービスです。Amazon Bedrock には、セキュリティ、プライバシー、責任ある AI 機能が組み込まれた生成 AI アプリケーションの構築に必要な幅広い機能も用意されています。これらの機能は、さまざまな業界の複数のユースケースに合わせてカスタマイズされたアプリケーションを構築するのに役立ち、組織が顧客の信頼とデータガバナンスを維持しながら生成 AI により持続的な成長を促進できるようにします。Amazon Bedrock インテリジェントプロンプトルーティングによって、お客様は複数の基盤モデルを組み合わせて費用対効果に優れた生成 AI アプリケーションを構築し、単一の基盤モデルよりも低コストで優れたパフォーマンスを実現できます。
プレビュー版では、お客様にはリクエストのルーティング先となるモデルの通常のオンデマンド料金が請求されます。詳細については、ドキュメントとブログをご覧ください。