亚马逊AWS官方博客
Category: Artificial Intelligence
利用 Bedrock 生成视频内容摘要
随着 GenAI 的普及,视频内容摘要生成备受关注。通过将视频转化为文本,我们可以实现视频搜索、摘要预览和个性化推荐等应用。视频转文本并总结提升了搜索、浏览和推荐的效率,提供了更智能、个性化的视频体验。
基于智能搜索和大模型知识库 – 实战篇
本文介绍基于智能搜索和大模型的知识库解决方案 Askture,主要分享方案采用的 LLM+Vector+Prompt 架构,以及客户应用过程的实战经验与最佳实践。
基于亚马逊云科技 AI 服务打造多模态智能化内容审核
本文将探讨如何使用亚马逊云科技提供的一系列托管人工智能服务 Amazon Rekognition,Amazon Comprehend,Amazon Transcribe 和 Amazon Bedrock 以及其他技术,打造自动化的智能化内容审核系统包括图像、视频、文本和音频审核工作流程,及时过滤不合适的内容,给用户带来更好的体验。
利用 Amazon Bedrock 和 Amazon EKS 构建多租户的基于 RAG 的聊天机器人
随着生成式人工智能模型的出现,许多客户都在探索如何构建聊天机器人应用,以满足其终端客户的各种需求,这包括了既要让每个聊天机器人都能专门处理特定租户的上下文信息,又要能利用其开发团队熟悉的经济高效的基础设施大规模运行此类多租户应用程序。
使用 Amazon Athena 对 Bedrock 日志进行查询与成本分析
在本篇 blog 中,我们以 Bedrock 为例,阐述了 Amazon Athena 这一 Serverless 服务进行云上日志结构化建表与查询,并提取 inputtokencount 与 outputtokencount 两个字段来帮助 Bedrock 用户计算服务调用的费用。
使用 Amazon Bedrock 和 Langchain Agent 实现交互式文生图
本文通过 Amazon Bedrock 支持的大语言模型以及 Stable Diffusion 模型,配合 Langchain Agent 实现了交互式文生图功能,用户可以要求 Langchain Agent 根据其指令反复调整提示词并生成图片以达到无需提示词工程且较为精细化控制图片生成的效果。
基于 RDS 和 Confluence 数据源构建端到端的检索增强生成(RAG)应用
在各行各业中,企业级知识库的需求普遍存在,而大语言模型的应用为企业级知识库带来了全新的可能性,通过 RAG 的 […]
基于大语言模型和推荐系统构建电商智能导购机器人
构建智能导购方案,利用大语言模型的对话能力,充分挖掘客户的购物需求,结合客户的历史行为数据,推荐最合适的商品给到用户,并使用大语言模型生成个性化的营销文案。
高性能大规模机器学习分布式训练 – EFA(Elastic Fabric Adapter)最佳实践
大语言模型 LLM 和生成式人工智能进一步推动了新一代机器学习的大规模普及和应用,同时也有越来越多的团队选择构建自己的大(语言)模型,以实现更好的生成效果。但是,高效地训练这些包含数十亿甚至数千亿参数的模型是一个非常大的挑战,因为模型越大,理论上所需要的计算资源就越多,如何设计一个高性能的基础设施来支持这些密集型的分布式工作负载,已经成为一个关键性的问题。为了解决这个难题,在亚马逊云科技平台上可以使用面向大规模机器学习(以及高性能计算 HPC)场景下的 Elastic Fabric Adapter(下文称 EFA),它是一种 Amazon EC2 实例上创新的网络接口,可以显著提高机器学习和高性能计算应用程序的网络性能。
云端生成式 AI – 基于 Amazon EKS 的 Stable Diffusion 图像生成方案
在生成式 AI 的图像生成场景下,我们基于 Amazon EKS,实现了一种更加适合 toC 场景的解决方案,它将帮助客户从容应对大并发量的请求,达到分钟级冷启动;使用更简单的控制平面,为客户提供更灵活的架构,轻松实现各种功能模块设计;同时,它还利用 Amazon Spot instances,帮助客户有效控制成本。