Amazon SageMaker Studio 筆記本現在支援 G6e 執行個體類型

張貼日期: 2024年10月15日

我們很高興宣布正式在 SageMaker Studio 筆記本上推出 Amazon EC2 G6e 執行個體。

Amazon EC2 G6e 執行個體可採用多達 8 顆的 NVIDIA L40S Tensor Core GPU (每個 GPU 採用 48 GB 的記憶體)，以及第三代 AMD EPYC 處理器。相較於 EC2 G5 執行個體，G6e 執行個體可提供高達 2.5 倍的效能。客戶可以使用 G6e 執行個體來透過互動方式測試模型部署，並用於互動式模型訓練使用案例，例如生成式 AI 微調。您能夠使用 G6e 執行個體部署具備多達 130 億個參數的大型語言模型 (LLM) 和擴散模型，以生成影像、影片和音訊。

適用於 SageMaker Studio 筆記本的 Amazon EC2 G6e 執行個體現已在 AWS 美國東部 (維吉尼亞北部和俄亥俄) 和美國西部 (奧勒岡) 區域提供。

請參閱開發人員指南，以取得在 SageMaker Studio 上設定和使用 JupyterLab 和 CodeEditor 應用程式的指示。