亚马逊AWS官方博客

Category: Artificial Intelligence

使用 AWS Trainium 加速芯片进行 Llama 2 继续预训练

本文介绍了如何使用亚马逊云科技的 Trainium 芯片对 Llama 2 大型语言模型进行继续预训练。通过与亚马逊云科技合作,通联数据在自有数据上对 Llama2 进行了预训练,取得了良好效果。本文详细描述了使用 AWS ParallelCluster 集群进行训练的步骤,包括集群准备、模型转换、数据处理、训练脚本修改和任务提交等。同时,提供了训练过程中可能遇到问题的定位方法。

基于大语言模型知识问答应用落地实践 – 使用 TruLens 做自动化 RAG 项目评估测试

我们 【基于大语言模型知识问答应用落地实践】 系列博客前 4 篇已经介绍了知识库构建和召回调优方面的实践经验,随着 RAG 项目的逐渐丰富和成熟,越来越多的工作会深入到各种细节的打磨,例如 Prompt 模板调优,更换更新的模型,各类阈值或者参数的调整等。 本篇将介绍如何用 TruLens 框架,一种简单的,系统化的方法来评估 LLM 应用的衡量性能和质量指标,做自动化 RAG 项目评估测试,以及跟踪每次迭代后指标的改善情况。

负责任人工智能的良好实践:促进采用负责任且值得信赖的人工智能系统

生成式人工智能的诞生使种种变革成为可能,我们的工作、生活和与世界互动的方式也可能由此受益。但是,这项技术如此强大,我们必须认识到随之而来的责任。 这段时间,从我与高管们的交谈中,我发现他们都意识到了,人们对可以开始使用人工智能这件事热情高涨,而对于生成式人工智能的出现则更是激动不已。但是高管们经常会问:“我怎样才能以安全负责的方式实施该技术,为我的客户提供出色体验?” 这是一个重要的问题,尤其是我们现在已经看到了生成式人工智能所带来的新挑战。

ISO 42001:推进负责任人工智能的新的基础全球标准

人工智能(AI)是我们这一代出现的最具变革性的技术之一,它为成为向善的力量并推动经济增长提供了机会。拥有数千亿个参数的大型语言模型(LLM)的发展解锁了新的生成式人工智能用例,以改善客户体验、提高员工工作效率等等。在亚马逊云科技,我们始终致力于以负责任的方式利用人工智能,与客户携手开发和使用人工智能系统,并将安全性、公平性和保密性放在首位。

用亚马逊 Bedrock Agent 构建智能体和知识库 – 金蝶发票云票据助手开发实践(第二篇:企业私域问答开发实践)

本系列博客从代码、实操层面出发,带领大家基于 Bedrock Agent 从 0 到 1 快速实现智能体构建。场景是金蝶发票云探索基于基础大模型构建面向企业用户的发票助手,希望从以前用户需要面向系统做填单操作来开发票转变为通过自然语言对话申请发票开具。该 Agent 可以实现如下两个功能: * 向客户收集开发票所需要的信息,自动调用后端 API 为用户开具发票 * 基于企业票据知识回答用户提问