发布于: Jun 6, 2023

我们很高兴宣布,除了现有的 StartJobRun API 之外,Amazon EMR on EKS 现在支持 Spark Operator 和 spark-submit 作为 Apache Spark 的新作业提交模式。随着新功能在今日发布,您现已可在 Amazon EMR on EKS 上通过首选的提交模式灵活提交 Apache Spark 作业,而无需更改您的应用程序。

在今日发布之前,您只能通过 StartJobRun API 提交 Apache Spark 作业,包括使用 AWS CLIAWS Controllers for Kubernetes (ACK)。现有 Apache Spark 应用程序运行 Spark Operator 或 spark-submit 的客户必须对其应用程序进行更改才能使用 Amazon EMR on EKS。有了这个功能,您现在无需更改应用程序即可在 EMR on EKS 上运行它们,从 EMR Spark 运行时性能和功能中受益,并使用您已经熟悉的 spark-submit 和 Spark Operator 节省时间。

要了解有关此功能的更多信息,请访问 Spark Operatorspark-submit 的开发指南,以及 AWS 大数据博客文章:介绍如何使用 Spark Operator 和 spark-submit 进行 Amazon EMR on EKS 作业提交。Spark Operator 和 spark-submit 受 Amazon EMR on EKS 6.10 及更高版本的支持,现已在目前可以使用 Amazon EMR on EKS 的区域推出。