Amazon SageMaker AI 现在支持对 NVIDIA Nemotron 3.5 Lightning 进行无服务器模型自定义

发布于: 2026年9月16日

Amazon SageMaker AI 现在支持使用有监督微调（SFT）、直接偏好优化（DPO）和强化微调（RFT）对 NVIDIA Nemotron 3.5 Lightning 模型进行无服务器模型自定义。这是 NVIDIA 最新的开放权重模型之一，采用混合专家混合架构，其中包含 30 亿个活跃参数和总计 300 亿个参数。除了在 SageMaker AI 上部署此模型外，您现在还可以根据您的具体领域和工作流程对其进行调整。

借助模型自定义，您能够使用专有数据定制基础模型，以构建更小、更适配的模型，使其在您的任务中达到前沿模型的水准，从而降低成本并减少延迟。您可以结合 SFT 使用标注数据来提高特定领域任务的准确率，结合 DPO 使用偏好数据以使输出与企业的语气保持一致，或者结合 RFT 使用奖励信号来提升新任务的性能。通过无服务器自定义，SageMaker AI 可以处理所有基础设施预置和训练编排，使您可以专注于数据和评估，而无需花费精力进行集群管理，且只需为实际使用量付费。

SageMaker AI 上的 NVIDIA Nemotron 3.5 Lightning 无服务器模型自定义已在美国东部（弗吉尼亚州北部）、美国西部（俄勒冈州）、亚太地区（东京）和欧洲地区（爱尔兰）推出。要开始使用，请导航到 Amazon SageMaker Studio 中的 Models（模型）页面启动自定义作业，或者使用 SageMaker Python SDK 进行编程访问。要了解更多信息，请参阅 Amazon SageMaker AI 模型自定义文档。