Amazon EMR Serverless 上的无服务器存储现已支持 TB 级洗牌操作

发布于: 2026年10月1日

Amazon EMR Serverless 现在提供增强的无服务器存储功能,支持高达 1 TB 的洗牌操作,提升了之前每个作业 200 GB 的限额。Amazon EMR Serverless 让数据工程师和数据科学家能够轻松运行开源大数据分析框架,而无需配置、管理和扩展集群或服务器。借助这一增强功能,企业客户能够运行需要在联接、聚合和排序等复杂操作期间处理大量随机数据的生产级 Apache Spark 工作负载。

企业数据团队现在可以放心地迁移日常处理 TB 级数据集的生产工作负载,而不必担心存储限制。对于涉及跨多 TB 数据集的大型表联接以及针对高基数数据执行复杂聚合(需要大量数据洗牌)的工作负载而言,这一增强功能尤为重要。新增的溢出支持可在必要时将数据转存到磁盘,确保作业能够无缝处理内存密集型操作,从而提高要求苛刻的分析工作负载的作业可靠性和成功率。

此功能适用于 Amazon emr-7.14、emr-spark-8.1 及更高版本,已在提供 Amazon EMR Serverless 的 18 个 AWS 区域推出。有关支持区域及其适用限制的完整列表,请参阅 Amazon EMR 文档。

要了解有关 Amazon EMR Serverless 的更多信息并开始获得 TB 级洗牌支持,请访问 Amazon EMR Serverless 页面。