亚马逊AWS官方博客
Category: Artificial Intelligence
使用 AWS Trainium 加速芯片进行 Llama 2 继续预训练
本文介绍了如何使用亚马逊云科技的 Trainium 芯片对 Llama 2 大型语言模型进行继续预训练。通过与亚马逊云科技合作,通联数据在自有数据上对 Llama2 进行了预训练,取得了良好效果。本文详细描述了使用 AWS ParallelCluster 集群进行训练的步骤,包括集群准备、模型转换、数据处理、训练脚本修改和任务提交等。同时,提供了训练过程中可能遇到问题的定位方法。
基于大语言模型知识问答应用落地实践 – 使用 TruLens 做自动化 RAG 项目评估测试
我们 【基于大语言模型知识问答应用落地实践】 系列博客前 4 篇已经介绍了知识库构建和召回调优方面的实践经验,随着 RAG 项目的逐渐丰富和成熟,越来越多的工作会深入到各种细节的打磨,例如 Prompt 模板调优,更换更新的模型,各类阈值或者参数的调整等。 本篇将介绍如何用 TruLens 框架,一种简单的,系统化的方法来评估 LLM 应用的衡量性能和质量指标,做自动化 RAG 项目评估测试,以及跟踪每次迭代后指标的改善情况。
莉莉丝《远光 84》项目组在 GenAI 的技术实践
远光 84 项目组以开放的胸怀拥抱 GenAI,采用小步快跑的方式,在多个业务场景中,通过 Amazon Bedrock + Claude2 的方案,快速验证并落地多个 GenAI 应用,积累丰富经验。
负责任人工智能的良好实践:促进采用负责任且值得信赖的人工智能系统
生成式人工智能的诞生使种种变革成为可能,我们的工作、生活和与世界互动的方式也可能由此受益。但是,这项技术如此强大,我们必须认识到随之而来的责任。 这段时间,从我与高管们的交谈中,我发现他们都意识到了,人们对可以开始使用人工智能这件事热情高涨,而对于生成式人工智能的出现则更是激动不已。但是高管们经常会问:“我怎样才能以安全负责的方式实施该技术,为我的客户提供出色体验?” 这是一个重要的问题,尤其是我们现在已经看到了生成式人工智能所带来的新挑战。
使用 Bedrock 和 RAG 构建 Text2SQL 行业数据查询助手
本文将介绍如何使用亚马逊云科技的大语言模型服务 Amazon Bedrock 以及 RAG(Retrieval Augmented Generation),实现 Text2SQL 功能,以此为基础构建基于大语言模型(LLM)的行业数据查询助手,达到使用自然语言询问直接获取数据分析结果的目的。
浅谈 LLM RAG 对话机器人和 Text2SQL 的设计和实现
在这篇文章中,我们结合一个场景,简单地讲解 LLM 的原理,LLM RAG 对话机器人以及 Text2SQL 的实现方式。
在 SageMaker Notebook Instance 上设置 Stable Diffusion 与 Automatic1111
部署 Automatic1111 在 SageMaker 上,以创建一个标准化的环境来实验 Stable Diffusion。
ISO 42001:推进负责任人工智能的新的基础全球标准
人工智能(AI)是我们这一代出现的最具变革性的技术之一,它为成为向善的力量并推动经济增长提供了机会。拥有数千亿个参数的大型语言模型(LLM)的发展解锁了新的生成式人工智能用例,以改善客户体验、提高员工工作效率等等。在亚马逊云科技,我们始终致力于以负责任的方式利用人工智能,与客户携手开发和使用人工智能系统,并将安全性、公平性和保密性放在首位。
在亚马逊云科技上开启您的多机多卡分布式训练之旅
在本篇文章中,我们会介绍使用 Horovod 和 Pytorch 利用亚马逊云科技的 EC2 GPU 资源,进行多机多卡分布式训练。本文主要分为 3 部分,方案概述(包括 3 种我们根据不同的用户场景设计的方案),配置细节以及实战中碰到的问题分享和最佳实践。
用亚马逊 Bedrock Agent 构建智能体和知识库 – 金蝶发票云票据助手开发实践(第二篇:企业私域问答开发实践)
本系列博客从代码、实操层面出发,带领大家基于 Bedrock Agent 从 0 到 1 快速实现智能体构建。场景是金蝶发票云探索基于基础大模型构建面向企业用户的发票助手,希望从以前用户需要面向系统做填单操作来开发票转变为通过自然语言对话申请发票开具。该 Agent 可以实现如下两个功能: * 向客户收集开发票所需要的信息,自动调用后端 API 为用户开具发票 * 基于企业票据知识回答用户提问