亚马逊AWS官方博客

AWS Team

Author: AWS Team

Amazon SageMaker Endpoint for built-in TFS模型推理优化

Tensorflow Serving(简称TFS)是一个很常用的模型推理开源框架,Amazon SageMaker 内建了TFS推理容器以支持TensorFlow SavedModel模型进行高效推理,Amazon SageMaker内建的TFS推理容器即可以做在线推理(比如通过SageMaker Inference Endpoint),也可以做离线推理(比如通过SageMaker Batch Transform)。

Amazon SageMaker机器学习推理综述

模型推理是将机器学习模型应用到业务数据并提供对该数据的洞察,其经常在业务系统中作为一个模块提供服务,作为整个机器学习生命周期中的一个必不可少的阶段,它的重要性毋庸置疑。不同的ML任务和业务应用场景下对于模型推理的诉求也是不同的,Amazon SageMaker 在模型推理方面提供了众多的功能来满足不同场景下的需求。对于任何一种推理的场景,机器学习工程师都希望能尽量提升推理服务器侧的吞吐以及降低推理的整个延迟,接下来我们从工程角度讨论一下机器学习推理这个话题。

亚马逊云科技WAF部署小指南(四) 使用Log Hub 自动部署方案进行WAF安全运营

本文介绍了如何使用Log Hub快速部署方案创建一个WAF的日志分析系统。这个系统,对于有安全运营需求的企业是非常必要的。通过快速部署这个系统,我们可以在一个比较成熟的企业云设施里快速启用一个日志分析系统。 有了这个日志分析系统,我们基本可以通过无代码的方式完成安全运营的工作了。本文的主要部署部分都是以CloudFormation部署完成,特别适合已经有VPC架构的成熟企业。