Amazon SageMaker HyperPod 现在支持运行 IDE 和 Notebook 以加速人工智能开发
Amazon SageMaker HyperPod 现在支持 IDE 和 Notebook,让人工智能开发人员能够运行 JupyterLab、代码编辑器或连接本地 IDE,以便直接在 HyperPod 集群上运行交互式人工智能工作负载。
借助这项功能,人工智能开发人员可以在用于训练和推理的同一持久性 HyperPod EKS 集群上运行 IDE 和 Notebook。开发人员可以借助 HyperPod CLI 等熟悉的工具利用 HyperPod 的可扩展 GPU 计算资源,同时通过已安装的 FSx 和 EFS 等文件系统,在不同的 IDE 和训练作业之间共享数据。该解决方案通过利用 HyperPod 上的多实例 GPU(MIG)支持功能,支持在同一 GPU 实例上运行多个 IDE,同时也支持在单个 GPU 上运行 IDE。
管理员可以使用 HyperPod 任务治理,通过对 IDE、训练和推理工作负载实施统一管理,最大限度地提高 CPU/GPU 的投资回报率。HyperPod 可观测性功能提供全面的使用指标,包括 CPU、GPU 和内存消耗情况,让管理员能够优化集群利用率并有效地管理成本。
这项功能已在目前提供 Amazon SageMaker HyperPod 的所有 AWS 区域推出,但中国区域和 GovCloud(美国)区域除外。要了解更多信息,请访问我们的文档。