投稿日: May 7, 2024
Amazon Bedrock のエージェントを使用すると、デベロッパーは、さまざまなユースケースの複雑なタスクを実行したり、社内のナレッジソースに基づいて最新の回答を提供したりする生成 AI ベースのアプリケーションを作成することができます。エージェントアプリケーションがスケールするにつれて、オンデマンド制限と比較してより高い入出力モデルのスループットが必要になります。
本日、Amazon Bedrock のエージェントによるプロビジョンドスループットのサポートを開始します。プロビジョンドスループットでは、特定のベースモデルのモデルユニットを購入できます。モデルユニットは、1 分あたりに処理される入力トークンまたは出力トークンの最大数によって測定される特定の保証スループットを提供します。モデルユニットごとに時間単位で請求され、契約期間なしか、1 か月または 6 か月の契約期間を柔軟に選択できます。
Bedrock のエージェントの新機能の詳細については、ドキュメントページをご覧ください。