張貼日期: Apr 4, 2019
AWS 客戶現在只需指定每個任務所需的 GPU 數量,即可透過 AWS Batch 無縫加速高效能運算 (HPC)、機器學習和其他批次任務。即日起,除了目前的 vCPU 和記憶體選項,您還能使用 AWS Batch 指定任務所需的加速器數量和類型做為任務定義輸入變數。AWS Batch 將根據所需的 GPU 數量擴展適合任務的執行個體,並根據每個任務的需要隔離加速器,僅讓適當的容器存取這些加速器。
硬體型運算加速器 (如圖形處理單元 (GPU)) 可讓使用者透過專用硬體提高應用程式輸送量和減少延遲。在此之前,想要利用加速器的 AWS Batch 使用者需要建立自訂 AMI 並安裝適當的驅動程式,還要讓 AWS Batch 根據其 vCPU 和記憶體特性擴展採用 GPU 加速的 EC2 P 類型執行個體。現在,客戶只要指定所需的 GPU 數量和類型,這與指定 vCPU 和記憶體的方式類似,Batch 就能啟動執行任務所需的 EC2 P 類型執行個體。此外,Batch 會將 GPU 隔離至容器,因此每個容器都可獲得其所需的適當資源數量。
要進一步了解 AWS Batch 的 GPU 支援,請參閱這裡。