亚马逊AWS官方博客

使用Amazon SageMaker原生TorchServe集成在生产中支持PyTorch模型

随着客户对于TorchServe需求的不断增长以及PyTorch社区的快速发展,AWS致力于为客户提供一种通用且高效的PyTorch模型托管方式。无论您使用的是Amazon SageMaker、 Amazon Elastic Compute Cloud (Amazon EC2)还是 Amazon Elastic Kubernetes Service (Amazon EKS), 我们都将不断优化后端基础设施并为开源社区提供支持。

利用Amazon ReplaceRootVolume替换实例EBS根卷

客户在使用EC2过程中,难免会碰到诸如根卷损坏或操作系统配置错误,导致无法连接和登录的情况。这会增加日常迁移、重建等繁杂的工作。尤其是客户在采用了存储优化实例(如i3、i3en、d2等)下,自建的服务下(如Hadoop、Kafka),数据丢失、拷贝等成本会非常高。 这些在实例存储上昂贵的数据复制操作、繁杂的迁移重建等工作,往往是客户无法承受的。现在依托Amazon ReplaceRootVolume新特性,将帮助客户解决上述问题,轻松应对出现的各种挑战。