AWS Glue 交互式会话现已支持 Spark Connect 以运行交互式工作负载

发布于: 2026年6月17日

AWS Glue 交互式会话现已支持 Apache Spark Connect,您可以通过它在自己偏好的环境(包括 Amazon SageMaker 融通式合作开发工作室中的托管笔记本)或首选笔记本环境和 IDE(例如 Jupyter、Visual Studio Code)中开发和运行 Apache Spark 应用程序,并在 AWS Glue 的无服务器基础设施上运行它们,而无需管理集群。

借助 Spark Connect,您可以使用瘦客户端架构将 Spark 作业提交到 AWS Glue 交互式会话,并从 Spark 执行环境解耦客户端应用程序。这将支持临时数据探索、迭代式逐步调试,以及部署到生产环境前的增量式 PySpark 作业开发等工作流,所有操作均可在您已使用的工具中完成。Spark Connect 还可将客户端依赖项与服务器端 Spark 运行时隔离,从而简化升级过程并提高稳定性。在可观测性方面,您可以通过 Spark UI 进行实时会话监控,通过 Spark History Server 跟踪历史记录,并使用 AWS Glue API、CLI 或 SDK 进行会话管理。

AWS Glue 交互式会话对 Spark Connect 的支持已在以下区域推出:亚太地区(孟买、首尔、新加坡、悉尼、东京)、加拿大(中部)、欧洲地区(法兰克福、爱尔兰、伦敦、巴黎、斯德哥尔摩)、南美洲(圣保罗)、美国东部(俄亥俄州、弗吉尼亚州北部)和美国西部(俄勒冈州)。

要开始使用,您可以从 Amazon SageMaker 融通式合作开发工作室中的笔记本、带 Python 解释器的常用 IDE,或通过 AWS API、SDK 和 CLI,使用 Spark Connect 连接到 Glue 交互式会话。要了解更多信息,请访问 AWS Glue 交互式会话文档