Tag: asynchronous inference

本文介绍了一种满足超长时间推理的解决方案，充分利用了亚马逊云科技 SageMaker Training 提供的能力，将其 Train Code 的部分替换为 Inference Code，从而在 Training 的触发和运行框架之下，实现对长时间推理的支持。