Amazon Bedrock 批量推理现已支持 Converse API 格式

发布于: 2026年2月27日

Amazon Bedrock 批量推理现已支持将 Converse API 作为模型调用类型，使您能够为批量工作负载使用适用于任意模型的一致输入格式。

以前，批量推理需要通过 InvokeModel API 使用特定于模型的请求格式。现在，在创建批量推理作业时，您可以选择将 Converse 作为模型调用类型，并使用标准 Converse API 请求格式来构建输入数据。Converse 批量推理作业的输出遵循 Converse API 响应格式。借助此功能，您可以对实时推理和批量推理使用相同的统一请求格式，简化提示管理，并减少在不同模型之间切换所需的工作量。您可以通过 Amazon Bedrock 控制台和 API 配置 Converse 模型调用类型。

此功能已在所有支持 Amazon Bedrock 批量推理的 AWS 区域推出。要开始使用，请参阅《Amazon Bedrock 用户指南》中的 Create a batch inference job 和 Format and upload your batch inference data。