Amazon SageMaker AI 现已支持无服务器模型自定义作业使用自定义序列长度

发布于: 2026年10月21日

今天，Amazon SageMaker AI 宣布用户能够配置在无服务器模型自定义作业中使用的序列长度。Amazon SageMaker AI 无服务器模型自定义支持对多款开放权重模型进行微调，包括来自 gpt-oss、Gemma、Llama、Nemotron 和 Qwen 等主流模型系列。以前，每个微调方案都以固定的序列长度运行，客户无法修改。客户有时需要修改这些参数，以在其使用案例中实现更好的结果。客户还提出需求，希望部分模型支持比原有静态默认值更长的序列长度。

现在，您可以将序列长度参数设置为自定义作业超参数的一部分，取值不得超过所选模型和微调方案的公布上限。您可以为 SFT 和 DPO 作业设置 dataset_max_len 超参数，也可以为 RFT 作业设置 max_prompt_length 和 max_response_length 超参数。这使您能够更好地控制参数以适配训练数据特征，无论您处理的是简短问答对还是多页文档。许多模型的公布上限为 16,000 个令牌，具体取决于模型和微调方案。

SageMaker AI 上的无服务器模型自定义已在美国东部（弗吉尼亚州北部）、美国西部（俄勒冈州）、亚太地区（东京）和欧洲地区（爱尔兰）推出。要开始使用，请导航到 Amazon SageMaker Studio 中的 Models（模型）页面启动自定义作业，使用 SageMaker Python SDK，或者结合您选择的编码助手使用我们的智能体技能。要了解更多信息并查看模型列表和每个微调方案支持的序列长度，请参阅 SageMaker AI 文档。