Amazon SageMaker AI 現在支援為無伺服器模型自訂任務自訂序列長度

張貼日期: 2026年10月21日

Amazon SageMaker AI 今日宣布，您現在可以設定無伺服器模型自訂任務所使用的序列長度。Amazon SageMaker AI 無伺服器模型自訂支援多種開放權重模型的微調，涵蓋 gpt-oss、Gemma、Llama、Nemotron 及 Qwen 等熱門模型系列。以往，每個微調配方皆以固定序列長度執行，客戶無法修改。客戶有時需要修改這些參數，以便為其使用案例取得更好的結果。客戶也要求提供比我們在某些模型上支援的靜態預設值更長的序列長度。

現在，您可以將序列長度參數設定為自訂任務超參數的一部分，最高可達您所選模型與技術的已公布上限。您可以為 SFT 及 DPO 任務設定 dataset_max_len 超參數，或為 RFT 任務設定 max_prompt_length 及 max_response_length 超參數。這讓您更能掌控並配合訓練資料的特性，無論您處理的是簡短的問答配對或多頁文件。視模型與技術而定，許多模型的已公布上限最高可達 16K 字符。

SageMaker AI 上的無伺服器模型自訂適用於美國東部 (維吉尼亞北部)、美國西部 (奧勒岡)、亞太地區 (東京) 和歐洲 (愛爾蘭)。若要開始使用，請前往 Amazon SageMaker Studio 中的「模型」頁面啟動自訂任務，使用 SageMaker Python SDK，或搭配您偏好的程式設計助理使用我們的代理技能。如需了解詳情並查看各技術支援的模型與序列長度清單，請參閱 SageMaker AI 文件。