Amazon SageMaker AI 現在支援 NVIDIA Nemotron 3.5 Lightning 的無伺服器模型自訂功能

張貼日期: 2026年9月16日

Amazon SageMaker AI 現在支援 NVIDIA Nemotron 3.5 Lightning 模型的無伺服器模型自訂功能，可採用監督式微調 (SFT)、直接偏好最佳化 (DPO) 和增強式微調 (RFT)。這是 NVIDIA 最新的開放權重模型之一，採用混合式專家混合架構，具備 3B 的作用中參數，總參數數量達 30B。除了在 SageMaker AI 上部署此模型之外，您現在還可以將其調整以符合特定領域與工作流程。

模型自訂功能可讓您運用專屬資料調整基礎模型，讓更小、更適切的模型在您的任務上達到前緣模型的品質，同時降低成本與延遲。您可以使用標記資料搭配 SFT 來提升特定領域任務的準確度、使用偏好資料搭配 DPO 讓輸出符合組織的語氣，或使用獎勵訊號搭配 RFT 來強化新任務的效能。有了無伺服器自訂，SageMaker AI 會處理所有基礎架構佈建和訓練協調，因此您可以專注於資料和評估，而不是叢集管理，而且只需為使用的內容付費。

SageMaker AI 上適用於 NVIDIA Nemotron 3.5 Lightning 的無伺服器模型自訂功能已在美國東部 (維吉尼亞北部)、美國西部 (奧勒岡)、亞太地區 (東京) 和歐洲 (愛爾蘭) 推出。若要開始使用，請瀏覽至 Amazon SageMaker Studio 中的「模型」頁面以啟動自訂工作，或使用 SageMaker Python SDK 進行程式設計存取。若要深入了解，請參閱 Amazon SageMaker AI 模型自訂文件。