Amazon EC2 G6e 執行個體現已正式推出

張貼日期: 2024年8月15日

今天，Amazon 宣布採用 NVIDIA L40S Tensor 核心 GPU 的 Amazon EC2 G6e 執行個體正式推出。G6e 執行個體可用於各類機器學習和空間運算使用案例。與 G5 執行個體相比，G6e 執行個體提供高達 2.5 倍的效能，推論成本最低可降至 P4d 執行個體的 80%。

客戶能夠使用 G6e 執行個體部署具有多達 13 B 參數的大型語言模型 (LLM) 和擴散模型，以產生影像、影片和音訊。此外，G6e 執行個體可讓客戶為空間運算工作負載建立更大、更身臨其境的 3D 模擬和數位分身。G6e 執行個體可搭載多達 8 顆的 NVIDIA L40S Tensor 核心 GPU，總共 384 GB 的 GPU 記憶體 (每個 GPU 48 GB 的記憶體)，以及第三代 AMD EPYC 處理器。G6e 執行個體也支援多達 192 顆的 vCPU，最高 400 Gbps 的網路頻寬、最高 1.536 TB 的系統記憶體，以及最高 7.6 TB 的本機 NVMe SSD 儲存空間。開發人員可以使用 AWS 深度學習 AMI、AWS 深度學習容器或 Amazon Elastic Kubernetes Service (Amazon EKS) 和 AWS Batch 等託管服務，在 G6e 執行個體上執行 AI 推論工作負載，並且 G6e 執行個體即將獲得 Amazon SageMaker 支援。

Amazon EC2 G6e 執行個體現已在 AWS 美國東部 (維吉尼亞北部和俄亥俄) 和美國西部 (奧勒岡) 區域提供。客戶能以隨需執行個體、預留執行個體、Spot 執行個體或作為 Savings Plans 的一部分等形式購買 G6e 執行個體。

若要開始使用，請前往 AWS 管理主控台、AWS 命令列介面 (CLI) 及 AWS 開發套件。若要進一步了解，請前往 G6e 執行個體頁面。