Tag: Amazon SageMaker

云原生是这两年讨论的比较火的话题，并且逐渐成为应用部署的主流方式。云原生是一种构建和运行应用程序的方法，应用程序从设计之初即考虑到云的环境，充分利用和发挥云平台的弹性自动化优势，在云上以最佳方式运行。

本文将以一个常见的使用案例，通过Amazon Step Functions Data Science SDK创建基于无服务器架构的工作流，过程如下：1.使用Amazon Glue进行ETL工作，生成样本数据集 2.使用SageMaker部署本地训练好的模型，用于机器学习推理

该文以目标检测模型着手，演示如何一步步基于Sagemaker Neo对训练后的模型文件进行编译优化，来提升模型的推理速度。 文中以yolo3(backbone为mobilenet1.0）模型为例，分别演示模型准备，模型Neo编译，模型导出推理测试，可视化等过程， 推理结果显示基于Sagemaker Neo可以显著提升推理速度，达到一倍以上的加速。

随着客户对于TorchServe需求的不断增长以及PyTorch社区的快速发展，AWS致力于为客户提供一种通用且高效的PyTorch模型托管方式。无论您使用的是Amazon SageMaker、 Amazon Elastic Compute Cloud (Amazon EC2)还是 Amazon Elastic Kubernetes Service (Amazon EKS), 我们都将不断优化后端基础设施并为开源社区提供支持。

今天，我们高兴地宣布，Amazon SageMaker已经在大型深度学习模型的训练方面迎来简化，帮助更多缺少丰富硬件资源的客户踏入高阶深度学习之门。

模型训练与服务化可以说是成功建立端到端机器学习（ML）流程的两大基本环节。这两个步骤通常需要不同的软件与硬件设置，才能为生产环境提供最佳组合。模型训练优化的目标是低成本、训练时间长度可行、科学上的灵活性以及良好的模型可解释性等；而模型服务化的优化目标是低成本、高吞吐以及低延迟。

语义搜索引擎的兴起使电子商务与零售企业能够更轻松地为消费者提供搜索服务。基于自然语言理解（NLU）的搜索引擎使您可以通过首选会话语言直接表述自己的需求，而不再只能硬性依赖于以输入设备写下相应关键字。您可以使用母语以单词或句子执行查询，并由搜索引擎负责理解并提供最佳结果。

而随着人工智能与机器学习（ML）在体育分析领域的应用日益广泛，AWS决定与Stats Perform联手将机器学习驱动的实时统计数据系统引入英式橄榄球赛，旨在提高球迷参与度并提供关于比赛的更多宝贵洞见。

Amazon SageMaker广泛使用Docker容器，允许用户构建用于数据准备、训练及推理代码的运行时环境。Amazon SageMaker内置用于Amazon SageMaker Processing的Spark容器则提供一套托管Spark运行时，其中包含运行分布式数据处理工作负载所需要的各类库组件与依赖项。

Amazon SageMaker Ground Truth流式标记作业 提供基础设施与资源，可供您创建持续运行的标记作业。此作业可按需接收新的数据对象并将其发送至工作人员进行标记。您可以将多个流式标记作业链接起来，由此创建出更复杂、更完善的数据标记管道。