Amazon SageMaker AI 宣布推出適用於無伺服器模型自訂的培訓工作階段 API

張貼日期: 2026年10月22日

Amazon SageMaker AI 無伺服器模型自訂現在支援培訓工作階段 API,讓客戶能完全掌控後訓練演算法,而無需佈建或管理 GPU 基礎架構。受管技術 (包括 SFT、DPO 及其他增強式學習方法) 可讓客戶選擇技術與模型,並由 SageMaker AI 執行訓練。透過培訓工作階段 API,團隊可自行撰寫訓練迴圈,無論是依自身方式重現 SFT 或 DPO,或是實作自訂損失函數、全新的 RL 獎勵信號、資料課程,或直接採用最新研究中的演算法。forward_backward ()、optim_step () 和 sample () 等作業會成為對即時且有狀態之工作階段的 API 呼叫,因此客戶可依其技術需求組合任意訓練程序,而 SageMaker AI 則負責 GPU 配置、模型與 LoRA 載入、分散式執行、故障復原、檢查點儲存和安全性。

客戶可以直接從自己的 Python 程式碼呼叫這些作業,以針對即時工作階段推動增強式學習、監督式微調或自訂訓練目標,並內建檢查點與續接功能。計費依處理的字符數計算,因此獎勵評分等本機運算不會依 GPU 時間計費。SageMaker AI 同時推出 SageMaker 培訓工作階段食譜,這是一組可直接執行的 SFT 與 RL 配方,客戶可將其作為自身訓練迴圈的藍圖。

培訓工作階段 API 即日起已在美國東部 (維吉尼亞北部)、美國西部 (奧勒岡) 及亞太地區 (孟買) 正式推出。若要開始使用,請安裝 SageMaker Python SDK 並複製食譜,或在 SageMaker Studio 中啟動筆記本並連線程式碼代理。若要了解詳情,請造訪文件和 Amazon SageMaker AI 網頁。