Tag: Amazon SageMaker

Amazon SageMaker可帮助用户在端点之上运行多个生产变体，从而轻松对生产环境中的ML模型进行A/B测试。大家可以使用SageMaker提供的功能配合不同训练数据集、超参数、算法以及ML框架测试由此训练出的模型，了解它们在不同实例类型上的执行性能，并将各项因素整合起来形成不同搭配。我们还可以在端点上的各变体之间进行流量分配，Amazon SageMaker会根据指定的分发方式将推理流量拆分并分发至各个变体。

Amazon SageMaker支持从数据注释、到生产部署、再到运营监控的整个ML开发周期。正如Olexya与SNCF Réseau的工作所示，Amazon SageMaker具有良好的框架中立性，能够容纳各类深度学习工作负载及框架。除了预先为Sklearn、TensorFlow、PyTorch、MXNet、XGBoost以及Chainer创建配套Docker镜像与SDK对象以外，您也可以使用自定义Docker容器，几乎任何框架，如PeddlePaddle、Catboost、R以及Caffe2。

本文引导大家为Amazon SageMaker notebook实例创建自定义持久R环境。关于Amazon SageMaker上的R notebooks，请参阅Amazon SageMaker示例GitHub repo。关于创建基于R内核的Amazon SageMaker notebook实例的更多详细信息，请参考在Amazon SageMaker notebook实例上使用R代码博文。

在本文中，我们讲解了如何根据用户交易与活动构建异构图，并使用该图及其他收集到的特征训练GNN模型，最终对交易的欺诈性做出预测。本文还介绍了如何使用DGL与Amazon SageMaker定义并训练具备高预测性能的GNN模型。关于此项目的完整实现以及其他GNN模型详细信息，请参见GitHub repo。

在本文中，我们使用Amazon SageMaker以BERT为起点，训练出一套能够标记句子语法完整性的模型。接下来，我们将模型分别部署在使用Elastic Inference与不使用Elastic Inference的Amazon SageMaker终端节点。您也可以使用这套解决方案对BERT做其他方向的微调，或者使用PyTorch-Transformers提供的其他预训练模型。
Key Messages as Tag

本文展示了两个用例，分别通过Amazon A2I将表格数据引入人工审核工作流中，且分别对应不可变静态表与动态表。当然，本文对于Amazon A2I功能的表述只能算是冰山一角。目前Amazon A2I已经在12个AWS区域内正式上线，关于更多详细信息，请参阅区域表。

本文引导大家完成了一个端到端机器学习项目，全面涵盖数据收集、数据处理、模型训练、将模型部署为端点、使用所部署模型进行推理等各个步骤。

到这里，相信大家已经了解了数据加载与处理如何影响GPU资源利用率，以及该如何通过解决I/O或与网络相关的瓶颈以提高GPU性能。在进一步讨论多GPU或者分布式模型训练等高级主题之前，我们应该首先解决这些最基本但也极为关键的瓶颈。

Amazon SageMaker与Kubeflow Pipelines能够轻松被集成在统一的混合管道当中。Amazon SageMaker还提供完善的博客与教程集合，可帮助大家轻松通过Amazon SageMaker components for Kubeflow Pipelines创建起混合管道。其API亦非常丰富，涵盖了我们需要使用的所有关键组件，并允许您开发自定义算法并与Cisco Kubeflow入门包进行集成。

到这里，大家已经了解如何使用Ground Truth以构建NER训练数据集，以及如何将生成的增强manifest文件自动转换为Amazon Comprehend能够直接处理的格式。