Amazon EMR on EKS 現已支援工作執行並行控制
張貼日期: 2026年8月28日
Amazon EMR on EKS 可讓您在 AWS EKS (Elastic Kubernetes Service) 叢集上執行 Apache Spark 和 Flink 等開放原始碼巨量資料架構。您可以將工作提交至虛擬叢集,該叢集會對應至 EKS 叢集上的命名空間,而 EMR on EKS 會處理應用程式的封裝、排程和執行。 今天,我們很高興宣布 EMR EKS 的工作執行准入控制,支援工作執行並行,以及來自 StartJobRun API 的背壓訊號。
透過此次功能發布,您現在可以在虛擬叢集上設定並行工作限制,細緻控制同時執行的工作數量,以及可在佇列中等待的工作數量。這是代表處於 PENDING/SUBMITTED 狀態之工作的邏輯佇列。這些控制項可協助您保護共用 EKS 叢集,避免其在多租戶共用環境中過載,並避免鄰居干擾造成的排程故障,讓您的關鍵工作負載即使在需求量大時也能可預期地執行。 您可以在虛擬叢集上設定兩個選用限制:maxConcurrentJobRuns,表示任何時間執行中的工作數上限;以及 maxInQueueJobRuns,表示 EMR on EKS 已接受但尚未開始執行之工作執行的最大佇列深度。佇列已滿時,StartJobRun 會傳回 HTTP ValidationException,讓您可以妥善卸載或將流量重新路由至另一個叢集,而不會讓單一叢集過載。您可以隨時使用 DescribeVirtualCluster 檢視目前的限制和即時工作數量。預設不會套用任何限制,因此現有工作負載在您選擇啟用前不會受到影響。
所有提供 EMR on EKS 的 AWS 區域都可使用並行工作限制。 若要開始使用,請參閱管理虛擬叢集。