宣布推出 Amazon SageMaker HyperPod 配方

張貼日期: 2024年12月4日

Amazon SageMaker HyperPod 配方可協助您以最先進的效能，在幾分鐘內開始訓練和微調公開可用的基礎模型 (FM)。SageMaker HyperPod 可透過內建的彈性和效能最佳化，協助客戶在數百個或數千個 AI 加速器擴展生成式 AI 模型開發，從而將模型訓練時間縮短最多 40%。然而，隨著 FM 規模繼續增長到數千億個參數，自訂這些模型的過程可能需要為期數週的大量實驗和偵錯。此外，對於客戶來說，執行訓練最佳化以挖掘更好的價格效能通常是不可行的，因為他們通常需要深度的機器學習專業知識，而這可能會進一步延遲上市時間。 

使用 SageMaker HyperPod 配方，各種技能組合的客戶都可以從最先進的效能獲益，同時快速開始訓練和微調流行的公開可用 FM，包括 Llama 3.1 405B、Mixtral 8x22B 和 Mistral 7B。SageMaker HyperPod 配方包括 AWS 測試的訓練堆疊，省去為期數週使用不同模型組態實驗的繁瑣工作。 您也可以透過一行配方變更，快速切換以 GPU 為基礎的執行個體和以 AWS Trainium 為基礎的執行個體，並啟用自動化模型檢查點，以改善訓練彈性。最後，您可以對所選的 SageMaker AI 訓練服務在生產中執行工作負載。 

所有支援 SageMaker HyperPod 和 SageMaker 訓練工作的所有 AWS 區域中均可使用 SageMaker HyperPod 配方。若要進一步了解並開始使用，請瀏覽 SageMaker HyperPod 頁面和部落格。