2 个月
2 个月完成生成式 AI 在智能提单和智能指标分析场景的落地
准确率超过 90%
简单场景中的自然语言查询,第一轮答复准确率超过 90%
准确率高达 100%
借助 Agents,复杂场景中的自然语言查询答复准确率可达 100%
概览
金蝶国际软件集团有限公司 (以下简称金蝶)是全球知名的企业管理云 SaaS 公司,成立于 1993 年,已为世界范围内超过 740 万家企业、政府组织提供企业管理云产品及服务。应用亚马逊云科技的生成式 AI 服务,金蝶面向海外业务构建智能提单系统和智能指标分析系统,2 个月完成生成式 AI 功能落地,简单场景中的自然语言问询准确率超过 90%,借助 Agents,复杂场景中的自然语言查询答复准确率可达 100%。目前,金蝶在服务其海外客户时采用的亚马逊云科技产品包括:Agents for Amazon Bedrock 、Amazon Bedrock 中 Anthropic的 Claude 3、Amazon Bedrock 中的 Cohere Embed - Multilingual、Amazon OpenSearch Service、AWS Lambda 等。
机会 | 生成式 AI 重塑 ERP 软件领域 ,自然语言对话改善用户体验
生成式 AI 问世以来,给几乎所有行业都带来巨大影响,ERP (Enterprise Resource Planning,企业资源计划)领域也在其中,业界普遍期待借助生成式 AI 来革新 ERP 的用户体验。
设想一位刚入职不久的财务专员,要为部门新采购的办公设备进行报销,由于设备类型、采购方式、供应商条款、单据种类等不同,可能涉及系统中数十个单据,以及数百个页签,面对 ERP 系统庞杂的界面和功能,财务专员一时无从下手,难道只能默默打开百科全书式的 ERP 系统用户手册一步步按章操作?再设想一位企业高管,在外与客户进行商务沟通时,想要即时了解上个季度某子公司某项产品的研发投入和同比增长情况,而系统并无现成数据参考,是不是希望有一个自助式的查询工具,能够便捷高效、随时随地了解具体各类业财数据?
在生成式 AI 时代,金蝶提出了 “ALL IN AI” 的战略口号,认为生成式 AI 将在 ERP 领域重塑用户体验、重塑企业的业务流程和重塑企业管理者的决策。金蝶对其海外业务 ERP 典型使用场景经过诊断、评估后,决定先聚焦智能提单和智能指标分析两大场景。
要在金蝶的业务场景中应用生成式 AI 精准匹配客户需求,依靠基础模型本身远远不够,还需要集成公司内部系统、API 以及外部系统的数据。Agents (代理) 技术出现后,可以从专有数据源检索所需信息并提供准确且相关的响应,精准捕捉用户意图,十分适合上述两大场景。然而在实践过程中,金蝶遇到了两个主要挑战:1)Agents 在企业管理软件中的成功用例鲜少,需要创新和探索;2)AI 在企业生产场景中的准确率难以预测,需要实际尝试。亚马逊云科技与金蝶的合作自 2015 年就已经开始,金蝶的企业管理 SaaS 金蝶云・星瀚、金蝶云・星空和金蝶云・星辰、EAS Cloud 等多款产品均已在亚马逊云科技上线;此次生成式 AI 领域的合作,意味着双方合作进入到 2.0 阶段,金蝶的海外业务出现生成式 AI应用需求后,亚马逊云科技团队立即与金蝶接洽快速进入产品的 POC(Proof of Concept,概念验证)阶段。
金蝶集团智能财务产品经理方首宇对亚马逊云科技的产品与服务积极认可:“在调研市场上一系列产品后,我们发现亚马逊云科技的生成式 AI 服务清晰易懂,Agents 开发工具成熟、易操作,服务团队专业高效。基于这些优势,我们决定与亚马逊云科技展开合作,在生成式 AI 领域共创。”
亚马逊云科技提供的 Amazon Bedrock 等生成式 AI 开发工具调用方便,产品迭代速度快,同时提供了构建生成式 AI 应用所需的一系列功能,帮助客户简化开发,同时维护客户数据隐私和安全;在开发过程中,还能提供及时的检测跟踪、快速的调试功能,让开发更高效、智能,使得金蝶面向海外业务的的生成式 AI 应用迅速落地。”
方首宇
金蝶集团智能财务产品经理
解决方案 | 基于 Agents for Amazon Bedrock 高效落地智能提单、智能指标分析两大场景
Agents for Amazon Bedrock 助力实现智能提单、智能指标分析两大场景从 0 到 1 快速构建
亚马逊云科技 Amazon Bedrock,拥有丰富的模型选择、差异化模型定制、应用集成等特性,让金蝶在其海外业务中能够轻松访问各种主流模型 ,同时满足了企业级安全性需求。金蝶还在其海外业务中应用亚马逊云科技 Agents for Amazon Bedrock,基于金蝶的 API 和知识库,快速构建专用的智能体应用。Agents for Amazon Bedrock 能够与无服务器服务 Amazon Lambda 和多种向量数据库自动集成,帮助金蝶快速实现生成式 AI 在 ERP 软件应用中的落地。
场景一:智能提单场景,让用户从复杂系统操作转变为便捷的自然语言对话交互
金蝶利用亚马逊云科技 Agents for Amazon Bedrock 对其面向海外客户的提单系统进行优化,构建智能提单系统,将原有 ERP 中基于 GUI (Graphical User Interface,图形用户界面)的表单界面提升为 LUI (Language User Interface,自然语言用户界面)。用户通过自然语言描述后,生成式 AI 能够帮助分析和推导其意图,并给出操作提示,用户按照提示即可简便发起报销、借款、出差等各类单据提交。方首宇说到:“在基于亚马逊云科技面向海外客户构建智能提单系统后,用户只需告诉系统自己的职位以及想要完成的任务,系统就能根据相应规则作出推理,给出相应引导,并反馈给用户。”
架构图
金蝶基于亚马逊云科技的智能提单场景系统架构示意图
场景二:智能指标分析场景,企业管理者无需在繁杂的 BI 报表中寻找数据,而是通过即时对话查询指标和获取精准结果
除智能提单外,Agents 允许用户进行实时的补充和澄清,还可应用于智能指标分析场景。金蝶应用亚马逊云科技 Agents for Amazon Bedrock 面向海外客户构建智能指标分析系统,企业管理者可与线上专属 AI 助理进行自然语言对话,获得即时、精准的指标数据查询,避免了在繁杂的 BI 报表中寻找数据的烦恼。在海外业务场景中,与用户确认意图后,金蝶 AI 助理自主拆解任务,并学习企业的知识库,匹配推荐相关度最高的指标。企业管理者就像拥有了 7x24 小时的 1v1 专属财务助手,轻松查询各类财务指标对比分析,重塑了企业的分析和决策流程。
架构图
金蝶基于亚马逊云科技的智能指标分析场景系统架构示意图
丰富且强大的生成式 AI 工具提升 ERP 系统智能化水平
除了 Agents for Amazon Bedrock,金蝶在其海外业务中还采用了一系列亚马逊云科技的其它服务。智能指标分析场景涉及超过 200 个指标大类、超过4000 个指标子类,数据组成异常复杂,为此,金蝶通过 Amazon Bedrock 调用 Cohere Embed-Multilingual 向量模型,以及采用 Amazon OpenSearch Service 向量库完成指标的向量化、存储和语义查询,通过语义匹配准确获取客户需要查询的指标,快速、精确地返回查询结果。
面向海外客户,金蝶利用 Amazon Bedrock 上的 Claude 3 模型完成自然语言理解、任务拆解和参数提取。通过在 Agent 工具中自建基于 Claude 3 的分类器和命名实体识别 (NER) 提取器,准确获取用户意图,以及历史会话中的参数信息。测试数据表明,Claude 3 Sonnet 中提供的中文理解和信息提取能力准确率达 97%。同时,由于历史信息可通过返回值传递,直接自动填充相关参数,避免信息重复收集,使得用户交互方式更加简便。
在面向海外客户的智能指标分析场景中,为了实现更精准的运营情况查询,金蝶在 Agents for Amazon Bedrock 之上又引入了 Text2SQL,该技术能够通过自然语言处理,将用户的文字查询转化为数据库中的结构化 SQL 查询语句,从而更灵活地获得所需数据。通过这种方式,金蝶进一步提升了查询的灵活性,确保用户能够迅速且准确地获得所需的指标和数据。
亚马逊云科技服务团队全方位助力金蝶生成式 AI 功能的快速落地
亚马逊云科技的服务团队为金蝶提供了全方位的专业支持。在需求讨论时,亚马逊云科技的服务团队与金蝶 AI 团队进行交流,提供试用早期选型;在技术难题出现时,亚马逊云科技的技术专家提供即时响应和支持;在项目推进过程中,亚马逊云科技为金蝶提供一系列技术培训和 Workshop 研讨等活动,帮助金蝶快速应用前沿技术。方首宇评价道:“亚马逊云科技的技术团队拥有丰富的生成式 AI 应用经验和专业知识,从产品落地和技术攻关的角度来看,我们对亚马逊云科技的支持力度和专业性十分满意。”
业务成果 | 2 个月完成生成式 AI 功能落地,借助 Agents 查询答复准确率可达 100%
2 个月完成生成式 AI 应用高效部署
2024 年 1 月,经过系统评估,金蝶在一周内就完成了面向海外客户的智能提单系统的 POC 验证,并开始面向企业客户推广,获得客户认可。方首宇表示:“截至 2023 年 12 月底,业内开放的 Agents 技术较为稀缺,亚马逊云科技的 Agents for Amazon Bedrock 成熟且易于上手。试用亚马逊云科技的开发工具和平台后,我们迅速实现了Agents 的早期应用场景。到了 2024 年 5 月,市场上虽然出现了众多厂商的 Agents 框架,但评估发现,亚马逊云科技的 Agents for Amazon Bedrock 在成熟度和易用性方面依然表现优异。亚马逊云科技提供的生成式 AI 开发工具调用方便,产品迭代速度快,前端框架和页面都很清晰;在开发过程中,提供及时的检测跟踪、快速的调试功能,让开发更高效、智能,使得金蝶面向海外业务的生成式 AI 应用迅速落地。” 利用亚马逊云科技的生成式 AI 产品和服务,金蝶 2 个月成功完成了生成式 AI 功能的落地。
简化交互,提升用户 ERP 系统提单体验
面向海外客户的智能提单系统落地后,想要发起 ERP 提单流程的用户,再也不用在 ERP 系统上百个应用、每个应用数百个页签的复杂界面前无所适从,仅仅通过自然语言对话描述,就能自动发起报销、借款、出差等各类单据提交,显著简化了用户与系统的交互方式,极大提升了用户提单体验。
优化流程,借助 Agents 技术智能指标查询准确率可达 100%
采用生成式 AI 技术后,通过面向海外客户的智能指标分析系统,企业管理者能够随时随地查询企业业财状态和数据,且查询的准确率显著提升。在金蝶的实践中,针对简单场景的查询,第一轮答复准确率超过 90%;针对复杂场景的查询,例如带有指标趋势计算的聚合逻辑,第一轮答复准确率为 70% ~ 80% ;借助 Agents 模式与用户进行对话后,如补充具体数据、来源细节后,第二轮答复准确率可达 100%。通过将生成式 AI 技术融入了企业的业务流程,优化了企业使用 ERP 系统的方式和过程,进一步提升企业运营效率。
未来,金蝶将与亚马逊云科技紧密合作,进一步探索将生成式 AI 技术应用于企业管理云产品及服务。双方将共同致力于打造便捷、高效、实用的解决方案,提升用户体验,持续推动生成式 AI 应用于企业转型和创新浪潮。
关于金蝶
金蝶是全球知名的企业管理云 SaaS 公司,成立于 1993 年,致力成为 “最值得托付的企业服务平台”,已为世界范围内超过 740 万家企业、政府组织提供企业管理云产品及服务。
使用的亚马逊云科技服务
Amazon Bedrock 中 Anthropic 的 Claude
Claude 是 Anthropic 推出的前沿、先进的大型语言模型,为企业提供了高速度、低成本和上下文窗口等重要功能。
*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和/或了解行业前沿技术选择推荐该服务。
行动起来
无论行业无论规模,每天都有各种机构在使用 AWS 实现自身业务转型、实现企业愿景。欢迎您联系我们的专家,立即踏上您的 AWS 之旅。