亚马逊AWS官方博客

使用 AWS Step Functions 和 Amazon Bedrock 构建生成式人工智能应用程序



今天，我们宣布推出两项针对 Amazon Bedrock 的 AWS Step Functions 新优化集成。Step Functions 是一项可视化工作流服务，可帮助开发人员构建分布式应用程序、自动执行流程、编排微服务以及创建数据和机器学习（ML）管道。

9 月，我们推出了 Amazon Bedrock，这是使用基础模型（FM）构建和扩展生成式人工智能（AI）应用程序最简单的方法。Bedrock 提供各种来自领先提供商（包括 AI21 Labs、Anthropic、Cohere、Stability AI 和 Amazon）的基础模型，以及客户构建生成式人工智能应用程序所需的广泛功能，同时维护隐私和安全。您可以通过 AWS 管理控制台、AWS 命令行界面（AWS CLI）或 AWS SDK 使用 Amazon Bedrock。

适用于 Amazon Bedrock 的全新 Step Functions 优化集成支持编排任务，使用 Amazon Bedrock 构建生成式人工智能应用程序，并与 220 多项 AWS 服务集成。借助 Step Functions，可以直观地开发、检查和审核工作流程。以前，需要调用 AWS Lambda 函数才能在工作流程中使用 Amazon Bedrock，这需要添加更多代码维护工作流程，并增加应用程序的成本。

Step Functions 为 Amazon Bedrock 新增了两种经过优化的 API 操作：

  • InvokeModel – 这种集成支持调用模型，并使用参数中提供的输入进行推断。使用此 API 操作可对文本、映像和嵌入模型运行推断。
  • CreateModelCustomizationJob – 此集成创建用于自定义基础模型的微调作业。可以在参数中指定基础模型和训练数据的位置。作业完成后，自定义模型即准备就绪，可供使用。这是一个异步 API，这种集成允许 Step Function 运行作业并等待其完成后再进入下一个状态。这意味着状态机将在创建模型自定义作业运行时暂停，并在任务完成后自动恢复。

优化的连接器

InvokeModel API 操作接受最大为 25 MB 的请求和响应。但是，Step Functions 对状态有效负载输入和输出的限制为 256 KB。为了通过这种集成支持更大的有效负载，可以定义一个 Amazon Simple Storage Service（Amazon S3）存储桶，InvokeModel API 从中读取数据并将结果写入其中。这些配置在 API 操作配置参数部分的参数部分中提供。

如何开始使用 Amazon Bedrock 和 AWS Step Functions
开始之前，请确保在推出 Amazon Bedrock 的区域创建状态机。在本示例中，使用美国东部（弗吉尼亚州北部）us-east-1。

在 AWS 管理控制台中，创建新的状态机。搜索“bedrock”，将出现两个可用的 API 操作。将 InvokeModel 拖到状态机上。

使用调用模型连接器

现在，在右侧的菜单中配置该状态。首先，定义要使用哪个基础模型。从列表中选择一个模型，或者从输入中动态获取模型。

然后，需要配置模型参数。可以在文本框中输入推理参数或从 Amazon S3 加载参数。

API 操作的配置

如果继续滚动查看 API 操作配置，则可以为 API 指定其他配置选项，例如 S3 目标存储桶。指定此字段后，API 操作会将 API 响应存储在指定的存储桶中，而不是将其返回到状态输出。还可以在这里为请求和响应指定内容类型。

连接器的其他配置

配置完状态机后，可以创建并运行它。状态机运行时，您可以直观查看执行详细信息，选择 Amazon Bedrock 状态，并检查其输入和输出。

执行状态机

可以使用 Step Functions 根据需要广泛地构建状态机，组合不同的服务，解决许多问题。例如，可以将 Step Functions 与 Amazon Bedrock 一起使用，使用提示链接来创建应用程序。这是一种通过将多个更小、更简单的提示而不是非常长而详细的提示传递给 FM，构建复杂的生成式人工智能应用程序的技术。要构建提示链，可以创建一个多次调用 Amazon Bedrock 的状态机，以获得针对每个较小提示的推理。可以使用 Parallel 状态运行所有任务，然后使用 AWS Lambda 函数将并行任务的响应统一为一个响应并生成结果。

现已推出
针对 Amazon Bedrock 的 AWS Step Functions 优化集成仅限于推出 Amazon Bedrock 的 AWS 区域。

您可以从 Step Functions 控制台试用示例项目，开始使用 Step Functions 和 Amazon Bedrock。

– Marcia