跳至主要內容

Amazon SageMaker AI

使用 Amazon SageMaker AI 自訂模型

使用最全面多元的技術,結合您的資料來自訂模型。完全無伺服器,在您信任的基礎架構上。

為何選擇 SageMaker AI 自訂模型

Amazon SageMaker AI 可讓 AI 開發人員使用受監管的微調 (SFT)、直接偏好最佳化 (DPO)、具有可驗證獎勵的強化學習 (RLVR) 以及從 AI 反饋中進行強化學習 (RLAIF),來自訂 20 多種常用的開放式權重模型和 Amazon Nova。  

整個工作流程完全無伺服器 — SageMaker 處理運算佈建、擴充和最佳化。 

將自訂模型部署到 Amazon Bedrock 以進行無伺服器推論,或部署到 SageMaker 端點以進行受管推論。如需受支援模型和技術的最新清單,請參閱文件頁面 

Missing alt text value

優點

以最高準確度加速模型自訂

    在數天而非數月內完成從資料準備到部署的端對端工作流程。開始使用引導式 UI 或 AI 代理程式引導的工作流程,然後使用 SageMaker Python SDK 進行自動化。完全無伺服器 — 無需佈建基礎架構,無需管理容量。 

    透過無伺服器體驗,可在 20 多種開放權重模型中提供多種自訂技術。開放權杖模型意味著您擁有權重 — 將自訂模型部署到 Amazon Bedrock 以進行無伺服器推論,部署到 SageMaker 端點以進行受管推論,或匯出至您自己的基礎架構。模型自訂技能已在 GitHub 上開源,因此團隊可以檢查、分流和調整它們以適應其工作流程。 

    可跟踪訓練指標和評估結果,並直接記錄在 SageMaker AI 上的 MLflow 中,因此您可以監控每個實驗,並完全清晰透明地比較模型效能。  

模型自訂變得簡單

跨端對端工作流程自訂模型的全方位功能

資料準備

使用模型自訂技能,您的編碼代理程式會產生程式碼,以針對所選模型和自訂技術來格式化資料、驗證資料品質並發現差距。這將數週的手動資料整理縮短為數小時。為了滿足更廣泛的資料準備需求,SageMaker AI 提供用於視覺化資料轉換的  Data Wrangler  (具有 300 多種內建轉換)、用於大規模資料標記的 Ground Truth 以及適用於自訂資料處理工作流程的 Processing jobs。當實際資料有限、敏感或難以取得時,請自備您自己的資料或產生合成資料 (預覽中)。SageMaker AI 可以產生任務特定的合成訓練範例,以補充現有資料集,協助您克服資料短缺問題,且不會影響模型品質。

Missing alt text value

進階自訂技術

SageMaker AI 支援最新模型自訂技術,包括監督式微調 (SFT)、直接偏好最佳化 (DPO),以及來自 AI 回饋的強化學習 (RLAIF) 與可驗證獎勵 (RLVR)。

當您需要變更模型行為時,SageMaker AI 支援監督式微調 (SFT) 或直接偏好最佳化 (DPO);當您需要針對特定獎勵訊號進行最佳化時,則可進階使用強化學習 (RLVR、RLAIF)。 如需進行持續預訓練,請利用 SageMaker 訓練任務SageMaker HyperPod,在數千種加速器中進行擴展。

 

Missing alt text value

端對端無伺服器模型自訂

SageMaker AI 會根據模型與資料大小自動選擇並佈建適當運算資源。這一切都無需您選擇與管理執行個體。

Missing alt text value

推論

一旦達到期望的準確度與效能目標,只需按幾下即可將模型部署到生產環境,部署至 SageMaker AI 推論端點或 Amazon Bedrock 進行無伺服器推論。

Missing alt text value

LLMOps

您可以自動記錄所有關鍵實驗指標,無需佈建追蹤伺服器或修改程式碼。與 MLflow 的整合亦提供豐富視覺化效果,並提供進入 MLflow 使用者介面的入口以進行進一步分析。

Missing alt text value

易於使用的介面

使用 SageMaker Studio 中的引導式 UI 來選取模型、選擇技術、設定資料集、啟動無伺服器訓練、監控即時指標並進行部署 - 全部只需按幾下即可。無需代理程式或程式碼。 

Missing alt text value

代理程式引導型開發

描述您的使用案例,AI 編碼代理程式會指導您完成資料轉換、技術選擇、超參數組態、評估和部署。專門建構的代理技能將微調技術、模型選擇、SageMaker AI API 和評估方法中的專業知識導入您的 AI 編碼代理程式,幫助您信心滿滿更快速地進行開發。代理程式技能是預先建置的可自訂指令集,符合您現有的工作流程和治理標準。在預先安裝了 Kiro 和代理程式技能的 SageMaker Studio JupyterLab 中開始使用,或搭配使用代理程式技能與您喜歡的 IDE 或編碼代理程式 (包括 Kiro IDE、Cursor、Claude Code 和 VS Code)。 

Missing alt text value

SageMaker Python SDK

以程式設計方式設定和啟動自訂工作、定義評估準則以及部署模型。為偏好程式碼優先工作流程的開發者提供每個參數的完整控制權。

客戶

為何客戶選擇 Amazon SageMaker AI 自訂模型

Collinear AI

「在 Collinear,我們為前沿 AI 實驗室與財星 500 大企業建置精選資料集與模擬環境,以改善模型。微調 AI 模型對於建立高傳真模擬至關重要,過去通常需要拼湊不同系統來進行訓練、評估與部署。現在有了 Amazon SageMaker AI 全新無伺服器模型自訂功能,我們擁有統一方式,能將實驗週期從數週縮短至數天。這套端對端無伺服器工具協助我們專注於重要事項:為客戶建置更好的訓練資料與模擬,而非維護基礎設施或周旋於不同平台。」

Soumyadeep Bakshi,Collinear AI 共同創辦人

Missing alt text value

Oleum

「在 Oleum,我們正在構建 AI 工具,以幫助組織了解並信任其資料。Amazon SageMaker AI 的新代理式 AI 體驗正是我們需要的工具。它充當的是思想夥伴,而不僅僅是任務執行者 — 推薦技術、捕捉資料中的不匹配,並讓我們建立我們想要的任何工作流程,而不是強迫我們遵循嚴格的流程。這些技能能夠直接嵌入我們現有的代理式開發環境,意味著我們可以在不切換平台的情況下,盡情實驗各種微調方法。再加上 SageMaker Studio 的 JupyterLab 中內建的全新聊天體驗,我們可以在一個地方將對話轉換為可執行的筆記本,再到訓練任務。它靈活、可自訂且專為現代化 ML 團隊的實際工作方式而構建。」      

Oleum — Alejandro Ballesteros 技術長

Missing alt text value

Wink

「在 Wink,我們正在構建 AI 驅動型數位分身,它們可捕捉真人性格的細微特徵,幫助使用者在見面前先行篩選,找出真正契合的連結。我們的開發工作流程已完全轉變為代理式、提示驅動型體驗 — 我們能夠高速開發與交付。Amazon SageMaker AI 的全新技能型模型自訂方法完美符合該工作流程。我們的團隊可以在我們已經使用的工具中透過自然語言來微調性格模型,而不再需要耗費心力處理基礎架構或僵化的介面。對於速度和成本效益即一切的新創公司而言,這是一個顛覆性突破,它使我們能夠專注於為使用者建立更好的體驗,而不是管理 ML 管道。」      

Wink  — Ethan Fan 技術長

Missing alt text value

Robin AI

「在 Robin,我們正在重新定義法律在現代商業中的角色,並使用 AI 驅動更好的決策、更快的行動與永續成長。為了提供客戶更佳決策制定,我們的 AI 模型必須符合律師撰寫合約的方式,從特定格式、語氣到個別律師的偏好。以往,使用專有資料自訂模型是繁瑣且易出錯的流程。現在有了 Amazon SageMaker AI 全新無伺服器模型自訂功能,我們可以在短短幾天內快速實驗可驗證獎勵的強化學習等進階技術。此外,我們很高興能嘗試 AI 代理程式導引工作流程,讓我們可以比較並驗證假設,協助全球律師更快做出更好的決策。」

Diana Mincu - Robin AI 研究總監

Missing alt text value

找到今天所需的資訊了嗎?

讓我們知道,以便我們改善頁面內容的品質