亚马逊AWS官方博客
Category: Artificial Intelligence
生花妙笔信手来 – 基于 SageMaker Notebook 快速搭建托管的 Stable Diffusion – AI 作画可视化环境
本文主要介绍如何使用 Amazon SageMaker Notebook 机器学习服务轻松托管 Stable Diffusion WebUI,一键部署开箱即用的 AIGC 图片方向轻量级应用。
在 SageMaker 上运行基于 Colossal-AI 的分布式 finetune 任务
在这篇博客中,我们将以 Stable Diffusion 为例,阐述如何在 Amazon SageMaker 上运行基于 Colossal-AI 的分布式微调(finetune)任务。
使用 SageMaker 对 Whisper 模型进行微调及部署
本文介绍了如何使用 SageMaker 对 Whisper 模型进行微调及部署,样例数据采用 Common Voice。
超长时间异步推理解决方案 Async-Inference-Service
本文介绍了一种满足超长时间推理的解决方案,充分利用了亚马逊云科技 SageMaker Training 提供的能力,将其 Train Code 的部分替换为 Inference Code,从而在 Training 的触发和运行框架之下,实现对长时间推理的支持。
基于 Amazon DeepRacer Opensource 实现二维码识别与变道亮灯操作
本文介绍了如何基于亚马逊云科技 Amazon DeepRacer Opensource,将车辆位置信息写入二维码(qrcode)中,结合摄像头的车道线识别识别算法进行车辆定位,指导车辆在双车道上进行变道操作。
SageMaker 运行自定义环境——以 PaddlePaddle 为例
本篇以广泛使用的 PaddlePaddle 为例探讨如何将自定义容器镜像部署在亚马逊云科技 Amazon SageMaker 上。
在 AWS 上设计带事件流式传输功能的数据网格用于提供实时推荐
越来越多的公司正考虑采用数据网格架构,在这种新出现的范式中,数据按域进行划分,进一步明确了数据和技术堆栈的所有权,并实现了更灵活的设置。在本文中,我们将以一家音乐流媒体公司为例,展示亚马逊云科技如何帮助客户针对需要实时推荐的场景设计数据网格架构。
基于Amazon DeepRacer Opensource实现自定义车道线识别任务
在本篇blog中,我们将介绍以摄像头为主要传感器的DeepRacer自动驾驶视觉感知系统。
Amazon SageMaker Endpoint for built-in TFS模型推理优化
Tensorflow Serving(简称TFS)是一个很常用的模型推理开源框架,Amazon SageMaker 内建了TFS推理容器以支持TensorFlow SavedModel模型进行高效推理,Amazon SageMaker内建的TFS推理容器即可以做在线推理(比如通过SageMaker Inference Endpoint),也可以做离线推理(比如通过SageMaker Batch Transform)。
Amazon SageMaker机器学习推理综述
模型推理是将机器学习模型应用到业务数据并提供对该数据的洞察,其经常在业务系统中作为一个模块提供服务,作为整个机器学习生命周期中的一个必不可少的阶段,它的重要性毋庸置疑。不同的ML任务和业务应用场景下对于模型推理的诉求也是不同的,Amazon SageMaker 在模型推理方面提供了众多的功能来满足不同场景下的需求。对于任何一种推理的场景,机器学习工程师都希望能尽量提升推理服务器侧的吞吐以及降低推理的整个延迟,接下来我们从工程角度讨论一下机器学习推理这个话题。