Amazon EC2 G6e 執行個體現在適用於其他區域

張貼日期: 2024年11月21日

即日起,採用 NVIDIA L40S Tensor Core GPU 的 Amazon EC2 G6e 執行個體已在亞太地區 (東京) 和歐洲 (法蘭克福、西班牙) 提供。G6e 執行個體可用於各類機器學習和空間運算使用案例。與 G5 執行個體相比,G6e 執行個體提供高達 2.5 倍的效能,推論成本最低可降至 P4d 執行個體的 80%。

客戶能夠使用 G6e 執行個體部署具備多達 130 億個參數的大型語言模型 (LLM) 和擴散模型,以生成影像、影片和音訊。此外,G6e 執行個體可讓客戶為空間運算工作負載,建立更大、更身臨其境的 3D 模擬和數位分身。G6e 執行個體可搭載多達 8 顆的 NVIDIA L40S Tensor 核心 GPU,總共 384 GB 的 GPU 記憶體 (每個 GPU 採用 48 GB 的記憶體),以及第三代 AMD EPYC 處理器。G6e 執行個體也支援多達 192 顆的 vCPU,高達 400 Gbps 的網路頻寬、高達 1.536 TB 的系統記憶體,以及高達 7.6 TB 的本機 NVMe SSD 儲存空間。開發人員可以使用 AWS Deep Learning AMI、AWS Deep Learning Containers 或 Amazon Elastic Kubernetes Service (Amazon EKS) 和 AWS Batch 等受管服務,在 G6e 執行個體上執行 AI 推論工作負載,並且 G6e 執行個體即將獲得 Amazon SageMaker 支援。

Amazon EC2 G6e 執行個體現已適用於 AWS 美國東部 (維吉尼亞北部、俄亥俄)、美國西部 (俄勒岡)、亞太地區 (東京) 和歐洲 (法蘭克福、西班牙) 區域。客戶能以購買隨需執行個體、預留執行個體、Spot 執行個體的形式,或透過 Savings Plans 來購買 G6e 執行個體類型。

若要開始使用,請前往 AWS 管理主控台AWS Command Line Interface (CLI) 及 AWS SDK 頁面。若要進一步了解,請前往 G6e 執行個體頁面