发布于: May 4, 2023
我们很激动地宣布,Amazon EMR on EKS 现在支持垂直自动扩缩,该功能可自动调优 EMR Spark 应用程序的内存和 CPU 资源,以适应所提供工作负载的需求,为客户调优资源、增强可靠性和优化成本提供了简化的机制。Amazon EMR on EKS 使客户能够在 Amazon EKS 上运行 Apache Spark 等开源大数据框架,而不必自行管理应用程序预置。
EMR Spark 让用户能够配置它将使用的内存和 CPU 核心量。但是,到目前为止,调优这些值一直是客户手动完成的过程,可能很复杂。例如,内存太少会导致内存不足异常,但分配过多内存会导致空闲资源超支。垂直自动扩缩功能可根据实时和历史资源利用情况自动扩缩分配给 EMR Spark 应用程序的内存和 CPU。这简化了资源调优和应用程序成本优化过程,同时有助于提高其可靠性。
要了解有关此功能的更多信息,请访问 AWS 大数据博客文章:通过 Amazon EMR on EKS 的垂直自动扩缩功能提高 Apache Spark 工作负载的可靠性并降低成本。有关更多详细信息,请参阅 EMR on EKS 文档的对Amazon EMR Spark 作业使用垂直自动扩缩部分。垂直自动扩缩在 Amazon EMR on EKS 6.10 版本及更高版本上受到支持,并且已在当前提供 Amazon EMR on EKS 的所有区域推出。