Amazon ECS 現在支援搭配 Amazon EC2 G6f 執行個體進行分數 GPU 排程
Amazon Elastic Container Service (Amazon ECS) 現在支援搭配 Amazon EC2 G6f 執行個體進行分數 GPU 排程，讓您能在小至 NVIDIA L4 Tensor Core GPU 八分之一、具備 3 GB GPU 記憶體的 GPU 分割區上執行工作負載。分數 GPU 讓您能彈性地為小型模型 AI 推論、模型實驗、圖形算繪及其他不需要完整 GPU 的工作負載調整容器大小，相較於佈建完整 GPU 執行個體，有助於降低基礎設施成本。
您可以在 Amazon ECS 任務定義的容器定義中設定 GPU=0.125、GPU=0.25 或 GPU=0.5，以要求分數 GPU。Amazon ECS 接著會將任務放置在符合要求的 G6f 執行個體上。Amazon ECS Managed Instances 和 Amazon ECS on EC2 都支援分數 GPU 設定。透過 ECS 受管執行個體，您可享有完全受管的體驗，由 ECS 自動處理執行個體佈建、擴展、修補及生命週期管理，讓您能專注於 GPU 工作負載，而非基礎設施作業。ECS 受管執行個體也包含專為加速工作負載打造的功能：例如透過 Amazon CloudWatch Container Insights 的 GPU 指標，以及可偵測 GPU 硬體故障並取代狀況不佳的執行個體以將工作負載中斷降至最低的自動運作狀態監控。
此功能適用於所有提供 Amazon EC2 G6f 執行個體的 AWS 區域。若要開始使用，請使用 AWS 管理主控台、AWS CLI、AWS SDK、AWS CloudFormation 或其他基礎設施即程式碼工具，設定包含 G6f 執行個體的容量提供者，並在 ECS 任務定義的容器定義中指定分數 GPU 值。若要了解詳情，請造訪 Amazon ECS 分數 GPU 文件和 Amazon EC2 G6 執行個體頁面。