介绍
本文介绍如何将 Amazon Bedrock（及其全托管的按需调用的 API）与 Amazon SageMaker 预训练后的模型或微调后的模型结合使用。
借助 Amazon Bedrock 的自定义模型导入功能，你可以使用在 SageMaker 中通过 Amazon SageMaker JumpStart 训练或微调新模型或现有模型。你可以将支持的架构导入 Amazon Bedrock，并通过其全托管的模型调用 API 实现按需访问。
难度：中级
时间：20 分钟
相关产品：Amazon SageMaker | Amazon Bedrock
上次更新时间：2025 年 1 月 8 日
解决方案概述
截至本文撰写时，Amazon Bedrock 支持导入自定义模型的架构：
-
Mistral
-
Flan
-
Meta Llama 2 和 Llama 3
本文使用 Hugging Face Flan-T5 Base 模型作为示例进行演示。
下文将介绍在 SageMaker JumpStart 中训练模型并导入至 Amazon Bedrock 的具体步骤。然后，你可以通过 Amazon Bedrock Playground 与你的自定义模型进行交互。
前提条件
在开始之前，请确认你的 AWS 账户具备 Amazon SageMaker Studio 和 Amazon Bedrock 的访问权限。
如果你尚未创建 SageMaker Studio 实例，请参阅启动 Amazon SageMaker Studio 进行创建。
在 SageMaker JumpStart 中训练模型
全部打开打开 AWS 管理控制台，然后进入 SageMaker Studio 控制台。
机器学习 (ML) 从业者可以通过 SageMaker JumpStart 选择多种公开的基础模型。这些模型基于预构建的机器学习解决方案构建，只需几次点击即可快速部署。
在模型详情页面，你可以查看模型的简短描述、部署方法、微调方法以及自定义模型所需的训练数据格式。
选择 Train（训练）按钮，然后开始基于你的训练数据对模型进行微调。
本次实验中使用的是一个预先填充的示例数据集。当使用你自己的数据来进行训练时，请在 Data（数据）字段输入你的数据集位置，并确认其符合格式要求。
完成安全设置，例如 AWS Identity and Access Management (IAM) 角色、VPC 以及加密。
记录下 Output artifact location (S3 URI)（输出构件位置）的值，以便稍后使用。
在 Jobs（作业）下拉菜单中选择 Training（训练），你可以查看你的训练作业状态。当训练作业状态显示为 Completed（已完成）时，表示该作业已结束。默认设置下，训练时间大约为 10 分钟。
将模型导入至 Amazon Bedrock
全部打开在 Amazon Bedrock 控制台的导航栏中，选择 Foundation models（基础模型）下的 Imported models（已导入模型）。
在 Model name（模型名称）输入框中，输入一个具有识别性的模型名称。
4. 在 Model import settings（模型导入设置）下，选择 Amazon SageMaker model（Amazon SageMaker 模型），然后选中模型旁边的单选按钮。
5. 在 Service access（服务访问）下，选择 Create and use a new service role（创建并使用新服务角色），并输入角色名称。
8. 在导航栏中的 Playgrounds 下，选择 Text（文本）。
10. 在 Category（类别）下，选择 Imported models（已导入模型）。
在 Model（模型）下，选择 flan-t5-fine-tuned。
在 Throughput（吞吐量）下，选择 On-demand（按需）。
现在，你可以开始与这个自定义模型交互了。以下截图展示了我们使用示例自定义模型对 Amazon Bedrock 的描述进行总结。
清理资源
全部打开按照以下步骤清理实验过程中创建的资源：
- 如果你不打算继续使用 SageMaker，请删除你创建的 SageMaker 域。
- 如果你不再想要维护你微调后的模型产物，请删除存储该模型产物的 Amazon Simple Storage Service (Amazon S3) 桶。
- 若要从 Amazon Bedrock 删除已导入的模型，请进入 Amazon Bedrock 控制台的 Imported models （已导入模型）页面，选择要删除的模型，点击选项菜单（三个点），然后选择 Delete（删除）。
总结
全部打开本文介绍了 Amazon Bedrock 的自定义模型导入功能，以及如何导入和使用自定义训练或微调的模型，以实现按需调用且经济高效的推理。通过将 SageMaker 模型训练功能与 Amazon Bedrock 的全托管、可扩展基础设施集成，你现在可以无缝部署你的专用模型，并通过简单易用的 API 进行访问。
不论你选择使用用户友好的 SageMaker Studio 控制台，还是更灵活的 SageMaker notebook，你都可以训练模型并将训练后的模型导入 Amazon Bedrock。这让你能够专注于开发创新应用和解决方案，而无需管理复杂的机器学习基础设施。
随着大语言模型能力的不断发展，将自定义模型集成到应用中的能力变得愈加重要。通过 Amazon Bedrock 自定义模型导入功能，你现在可以充分发挥自定义模型的全部潜力，为你的客户提供量身定制的体验。同时，使用全托管服务提供了可扩展性和提高成本效益。
如需进一步了解如何使用 SageMaker 进行模型微调，请参阅使用 Amazon SageMaker Jumpstart 对 FLAN T5 XL 进行微调操作指南。