Amazon Bedrock が OpenAI の Responses API をサポートするようになりました
Amazon Bedrock は、新しい OpenAI API 互換サービスエンドポイントで Responses API をサポートするようになりました。Responses API を使用すると、デベロッパーは長時間実行される推論ワークロードの非同期推論を実現でき、エージェンティックワークフローのツール使用統合が簡素化され、ステートフルな会話管理もサポートされます。Responses API を使用すると、デベロッパーは各リクエストで会話履歴全体を渡さなければならない代わりに、手動で履歴を管理しなくてもコンテキストを自動的に再構築できます。これらの新しいサービスエンドポイントは、ストリーミングモードと非ストリーミングモードの両方をサポートし、Chat Completions API 内での推論サポートを可能にします。また、デベロッパーはベース URL を変更するだけで OpenAI SDK 互換の既存のコードベースに統合できます。
推論サポートが付いたチャット補完機能は、Project Mantle (Amazon Bedrock で提供される大規模機械学習モデル用の新しい分散推論エンジン) を搭載したすべての Amazon Bedrock モデルで利用できます。Project Mantle は、Amazon Bedrock への新しいモデルのオンボーディングを簡素化および迅速化し、高度なサービス品質管理による高性能で信頼性の高いサーバーレス推論を提供し、自動容量管理と統合プールによってデフォルトのカスタマークォータを増やし、OpenAI API 仕様とのすぐに使用できる互換性を提供します。Responses API のサポートは、OpenAI のGPT OSS 20B/120B モデルから今すぐ利用可能で、他のモデルも間もなくサポートされる予定です。
使用を開始するには、こちらのサービスドキュメントをご覧ください