Category: Artificial Intelligence

Tensorflow Serving（简称TFS）是一个很常用的模型推理开源框架，Amazon SageMaker 内建了TFS推理容器以支持TensorFlow SavedModel模型进行高效推理，Amazon SageMaker内建的TFS推理容器即可以做在线推理（比如通过SageMaker Inference Endpoint），也可以做离线推理（比如通过SageMaker Batch Transform）。

模型推理是将机器学习模型应用到业务数据并提供对该数据的洞察，其经常在业务系统中作为一个模块提供服务，作为整个机器学习生命周期中的一个必不可少的阶段，它的重要性毋庸置疑。不同的ML任务和业务应用场景下对于模型推理的诉求也是不同的，Amazon SageMaker 在模型推理方面提供了众多的功能来满足不同场景下的需求。对于任何一种推理的场景，机器学习工程师都希望能尽量提升推理服务器侧的吞吐以及降低推理的整个延迟，接下来我们从工程角度讨论一下机器学习推理这个话题。

本次小米人车神争霸赛使用了re:invent 2018跑道，笔者的队伍“旋风冲锋龙卷风”在线下比赛中跑出了25s三圈的成绩，一举夺得冠军。作者将在本篇博客中介绍模型训练的策略和比赛经验，希望可以对读者有所帮助。

在当今信息化高速发展的时代，推荐系统是一个热门的话题和技术领域，一些云厂商也提供了推荐系统的SaaS服务比如亚马逊云科技的Amazon Personalize来解决客户从无到有迅速构建推荐系统的痛点和难点。在我们的日常生活中，推荐系统随处可见，我根据这几年参与的推荐系统和计算广告项目总结了一些实践经验并以推荐系统系列文章的形式分享给大家，希望大家看后对推荐系统有更全新更深刻的理解。

随着深度学习领域的不断发展，很多生成类模型的效果已经达到“准商用”的水平，因此，也有很多客户选择在这类模型上进行调优和封装并作为应用提供给终端用户，从而实现算法能力产品化。在本博客中，我们将为大家展示如何用利用Amazon SageMaker Pipeline构建包括数据预处理，模型训练，模型推理以及任务状态通知的自动化工作流。在本博客中我们将为大家展示主要部分的技术实现。

在当今信息化高速发展的时代，推荐系统是一个热门的话题和技术领域，一些云厂商也提供了推荐系统的SaaS服务比如亚马逊云科技的Amazon Personalize来解决客户从无到有迅速构建推荐系统的痛点和难点。在我们的日常生活中，推荐系统随处可见，我根据这几年参与的推荐系统和计算广告项目总结了一些实践经验并以推荐系统系列文章的形式分享给大家，希望大家看后对推荐系统有更全新更深刻的理解。

本文讨论了如何在AWS云上构建基于机器学习的物流需求量预测。用于训练模型的数据包括内部和外部数据。机器学习模型使用物流需求量历史数据和其他相关特征进行训练，在推理时用户可以通过对特征的微调来了解特征对模型预测结果的影响。

机器学习在工程化道路的发展，逐步从手工作坊和验证试运行的工作模式，逐步过渡到大规模部署的生产的模式。这是预测的AI/ML必然的趋势。

本文实现了工厂OEE系统上传数据，在AWS Sagemaker里面转化数据，以及在Neptune存放数据的过程，最后在API Gateway 以及Lambda中实现对数据的调用。针对每次OEEEvent发生的 Errorcode进行分析，同时关联工厂产线相关知识比如机器模块，子模块，故障描述，故障原因等一系列机器对应的数据。随着知识数据的不断积累，数据科学家还可以持续使用SageMaker更新知识之间的关联关系，相关的工业场景可以根据实际场景利用本文的方案进行架构设计。

本文旨在介绍使用人工智能视觉在工业领域的一些应用场景；客户在落地工业智能视觉时面临的一些挑战；和基于亚马逊云科技IoT框架下的工业视觉解决方案的落地架构。