Amazon SageMaker HyperPod 现已支持对通过持续预置创建的 Slurm 集群进行深度运行状况检查
Amazon SageMaker HyperPod 现已支持对通过持续预置创建的 Slurm 编排集群进行深度运行状况检查,使您能够随时主动核验正在运行的实例上的 GPU 加速器的运行状况。持续预置可让您快速开始训练,并通过异步方式扩展实例组,而不会发生“全有或全无”式的失败;现在,您可以在实例上线过程中,将这种灵活性与全面的硬件验证相结合。此功能解决了一项关键挑战,其中即便只有一个节点运行不正常,也会浪费数小时的计算时间并延迟关键工作负载。
通过深度运行状况检查,您可以将整个实例组或特定实例作为目标,在将计算资源分配给某个作业之前,运行全面的硬件压力测试和连接测试。由于持续预置会在容量可用时,以异步方式向 Slurm 集群添加 Worker 节点,因此,您可以在每个新节点上线时对其进行深度运行状况检查,在基于硬件调度作业之前先验证硬件,而不会中断已在正常运行的节点上运行的工作负载。通过 SageMaker 控制台和 API,可以在实例组和实例级别查看进度和结果,从而全面了解 GPU 运行状况、网络连接情况和多节点通信性能。接受检查的实例会自动与工作负载计划隔离,检查通过后可恢复服务。与 HyperPod 的自动节点恢复功能配合使用时,失败的实例会自动重启或更换,从而确保集群的运行状况。
这项功能已在提供 Amazon SageMaker HyperPod 的所有区域推出。要了解有关按需深度运行状况检查和持续预置的更多信息,请参阅 Amazon SageMaker HyperPod 用户指南。