這個 AWS 解決方案有什麼作用?

MLOps 工作負載協調器解決方案可協助您針對機器學習 (ML) 模型生產精簡和強制執行架構最佳實務。此解決方案是一種可擴展的架構,可提供標準介面,用於管理 AWS 機器學習 (ML) 服務和第三方服務的機器學習 (ML) 管道。該解決方案的範本可讓客戶訓練模式,上傳其訓練的模型 (也稱為自帶模型),設定管道的協同運作,以及監控管道的操作。此解決方案允許您的團隊大規模重複成功的流程,從而提升他們的敏捷性和效率。

優勢

利用預先設定的機器學習管道

透過 API 叫用或 Git 儲存庫,使用解決方案的參考架構初始化預先設定的管道。

優勢

自動部署訓練的模型和推論端點

使用解決方案的架構,將模型監控管道或 Amazon SageMaker BYOM 管道自動化。透過封裝為無伺服器微服務的模型偏離偵測提供推論端點。

AWS 解決方案概觀

下面的圖表顯示您可以使用解決方案的實作指南和隨附的 AWS CloudFormation 範本來自動部署的無伺服器架構。

  • 選項 1 – 單一帳戶部署
  • 選項 2 – 多帳戶部署
  • 選項 1 – 單一帳戶部署
  • AWS MLOps Framework | 參考架構圖
     按一下以放大

    MLOps 工作負載協調器參考架構 (單一帳戶部署)

    使用單一帳戶範本在相同 AWS 帳戶中部署所有解決方案的管道。此選項適用於實驗、開發和/或小規模生產工作負載。

    此解決方案的單一帳戶範本提供以下元件和工作流程:

    1. 協調器 (解決方案擁有者或 DevOps 工程師) 在 AWS 帳戶中推出解決方案並選取所需的選項 (例如,使用 Amazon SageMaker Registry,或提供現有的 Amazon S3 儲存貯體)。
    2. 協調器將目標管道所需的資產 (例如,模型成品、訓練資料和/或自訂演算法 zip 檔案) 上傳到 Amazon S3 資產儲存貯體中。如果使用 Amazon SageMaker Model Registry,則協調器 (或自訂管道) 必須向 Model Registry 註冊模型。
    3. 透過將 API 呼叫傳送至 Amazon API Gateway 或將 mlops-config.json 檔案遞交至 Git 儲存庫,來佈建單一帳戶 AWS CodePipeline 執行個體。視管道類型而定,協調器 AWS Lambda 函數使用 API 呼叫主體或 mlops-config.json 檔案封裝目標 AWS CloudFormation 範本及其參數/組態,並將其用作 AWS CodePipeline 執行個體的來源階段。
    4. DeployPipeline 階段採用封裝的 CloudFormation 範本及其參數/組態,並將目標管道部署到相同的帳戶中。
    5. 在佈建目標管道之後,使用者可以存取其功能。系統會將 Amazon Simple Notification Service (Amazon SNS) 通知傳送至解決方案的啟動參數中提供的電子郵件。

    MLOps 工作負載協調器

    版本 2.0.0
    發佈日期︰2022 年 5 月
    作者:AWS

    預計部署時間:3 分鐘

    預估費用 
    使用下面的按鈕訂閱解決方案更新。

    注意:若要訂閱 RSS 更新,您必須為正在使用的瀏覽器啟用 RSS 外掛程式。 

    此 Solutions Implementation 是否對您有幫助?
    提供意見回饋 
  • 選項 2 – 多帳戶部署
  • AWS MLOps Framework | 參考架構圖
     按一下以放大

    MLOps 工作負載協調器參考架構 (多帳戶部署)

    使用多帳戶範本跨不同的 AWS 帳戶佈建多個環境 (例如,開發、暫存和生產),這可改善管控及提高 ML 管道部署的安全和控制,提供安全的實驗和更快的創新,並保持生產資料和工作負載的安全性和可用性,以確保業務持續性。

    此解決方案的多帳戶範本提供以下元件和工作流程:

    1. 協調器 (具有 Orchestrator 帳戶管理員存取權的解決方案擁有者或 DevOps 工程師) 提供 AWS Organizations 資訊 (例如,開發、暫存和生產組織單位 ID 和帳號)。他們還指定所需的選項 (例如,使用 Amazon SageMaker Registry,或提供現有 S3 儲存貯體),然後在其 AWS 帳戶中啟動解決方案。
    2. 協調器將目標管道所需的資產 (例如,模型成品、訓練資料和/或自訂演算法 zip 檔案) 上傳到 AWS Orchestrator 帳戶中的 Amazon S3 資產儲存貯體中。如果使用 Amazon SageMaker Model Registry,則協調器 (或自訂管道) 必須向 Model Registry 註冊模型。
    3. 透過將 API 呼叫傳送至 Amazon API Gateway 或將 mlops-config.json 檔案遞交至 Git 儲存庫,來佈建多帳戶 AWS CodePipeline 執行個體。視管道類型而定,協調器 AWS Lambda 函數使用 API 呼叫主體或 mlops-config.json 檔案封裝目標 AWS CloudFormation 範本及其每個階段的參數/組態,並將其用作 AWS CodePipeline 執行個體的來源階段。
    4. DeployDev 階段採用封裝的 CloudFormation 範本及其參數/組態,並將目標管道部署到開發帳戶中。
    5. 在目標管道佈建到開發帳戶之後,開發人員就可以在管道上反覆使用。
    6. 完成開發之後,Orchestrator (或另一個授權帳戶) 會手動核准 DeployStaging 動作以移至 DeployStaging 階段。
    7. DeployStaging 階段使用暫存組態將目標管道部署到暫存帳戶中。
    8. 測試人員對部署的管道執行不同的測試。
    9. 管道通過品質測試之後,Orchestrator 可以核准 DeployProd 動作。
    10. DeployProd 階段將目標管道 (具有生產組態) 部署到生產帳戶。
    11. 最後,目標管道進入生產環境。系統會將 Amazon Simple Notification Service (Amazon SNS) 通知傳送至解決方案的啟動參數中提供的電子郵件。

    MLOps 工作負載協調器

    版本 2.0.0
    發佈日期︰2022 年 5 月
    作者:AWS

    預計部署時間:3 分鐘

    預估費用 
    使用下面的按鈕訂閱解決方案更新。

    注意:若要訂閱 RSS 更新,您必須為正在使用的瀏覽器啟用 RSS 外掛程式。 

    此 Solutions Implementation 是否對您有幫助?
    提供意見回饋 
建立圖示
自行部署解決方案

瀏覽我們的 AWS 解決方案實作庫,獲取常見架構問題的答案。

進一步了解 
尋找 APN 合作夥伴
尋找 APN 合作夥伴

尋找 AWS 認證的諮詢與技術合作夥伴協助您入門。

進一步了解 
探索圖示
探索解決方案諮詢產品

瀏覽我們的諮詢產品組合,獲取經過 AWS 審核的解決方案部署協助。

進一步了解