投稿日: Nov 29, 2023
Amazon Bedrock を使用してプロンプトをバッチ処理し、モデルの評価、実験、およびオフライン処理の応答を取得できるようになりました。
バッチ API を使用すると、基盤モデル (FM) による推論をより効率的に実行できます。また、回答を集約してバッチ分析を実行することもできます。
バッチ処理は、米国東部 (バージニア北部)、米国西部 (オレゴン)、アジアパシフィック (シンガポール)、アジアパシフィック (東京)、および欧州 (フランクフルト) の AWS リージョンでプレビュー版として利用できます。
Amazon Bedrock でのバッチ推論の詳細については、Amazon Bedrock API リファレンスを参照してください。バッチモードの料金は、オンデマンドモードの料金と同じです。詳細については、Amazon Bedrock の料金ページを参照してください。
更新: 2024年2月27日 - 元の投稿では、実際にはプレビュー段階であるものの、このリリースが一般公開されていると誤って記載されていたため、適切な形に更新されました。