亚马逊AWS官方博客
利用 Amazon Q 和 Bedrock for SAP 使用案例提高您的生产力
生成式人工智能简介
生成式人工智能是一种能够创造新内容和新想法的人工智能，包括对话、故事、图像、视频和音乐。人工智能技术试图在图像识别、自然语言处理（NLP）和翻译等非传统计算任务领域模仿人类智慧。
它依赖于超大型机器学习（ML）模型，这些模型使用大量数据进行了预训练。在生成式人工智能中，我们需要注意两种类型的模型，它们分别是：
- 基础模型（FM）是根据广义数据和未标注数据训练的机器学习模型，用于学习模式和关系来预测序列中的下一个项目。
- 大型语言模型 (LLM) 是 FM 的子类之一，经过训练，可以学习和预测序列中接下来会出现的单词。
据 McKinsey 的研究估计，生成式人工智能每年可以跨 63 个使用案例增加相当于 2.6 万亿至 4.4 万亿美元的收入。相比于整个英国 3.1 万亿美元的 GDP，这一数字是相当可观的。
许多 SAP 客户都在问，他们如何才能从这项新技术进步中获益，从而取得更出色的业务成果。他们问的一些问题有：
- SAP 客户可以获得哪些生成式人工智能使用案例？
- 生成式人工智能可以为 SAP 客户带来哪些商业价值？
- 有哪些产品可用于通过生成式人工智能实现其 SAP 环境的现代化？
- 他们应该从哪里开启生成式人工智能之旅？
- 谁能助力其踏上生成式人工智能之旅？
- 他们如何成功地在 SAP 业务流程中采用生成式人工智能？
最近，AWS 和 SAP 扩大了战略合作，致力于改进云企业资源规划（ERP）体验并助力企业充分利用生成式人工智能。这些举措包括：
- SAP AI Core 中的生成式人工智能中心将整合 Amazon Bedrock 中的生成式人工智能模型，让 SAP 客户能够访问高性能的大型语言模型和基础模型来构建定制的人工智能应用程序。
- SAP 计划使用 AWS Trainium 和 Inferentia 芯片来训练和部署未来的 SAP 商业人工智能产品，这可以加速人工智能模型的开发过程。在概念验证中，SAP 工程师在 2 天内便对生成式人工智能 LLM 进行了训练和微调，而使用同类 Amazon EC2 实例则需要 23 天。
本博客旨在解答 SAP 客户的问题，助力他们在 AWS 上开启生成式人工智能之旅，并从 SAP 投资中获得更多的价值。
生成式人工智能如何为 SAP 客户提供助力
在与众多客户互动之后，AWS 团队确定了 SAP 客户正在尝试和实施的常见生成式人工智能使用案例。以下列表并不详尽，我们热切盼望您与我们联系，将您业务中存在的痛点告知我们，我们会与您共同探索任何其它使用案例。
| 编号 | 角色 | 使用案例 | 业务优势 | 相关 AWS 服务 |
|---|---|---|---|---|
| 商业使用案例 | ||||
| 1 | 销售库存分析师 | 实时收集仓库库存洞察，避免缺货和库存过剩的情况 | 协助客户改善产品供应可靠性和价格稳定性 | Amazon Bedrock |
| 2 | 订单到付款流程分析师 | 使用生成式商业智能（BI）功能创建自助服务报告 | 提高决策质量来优化订单到付款流程，减少处理时间和流程瓶颈 | Amazon Q in QuickSight |
| 3 | 销售客户经理 | 通过总结和分析销售文档获得客户洞察 | 支持全方位查看客户的订单和即时需求，为追加销售创造机会 | Amazon Q 企业版或 Amazon Bedrock |
| 4 | 采购经理 | 针对以 RFP（征求建议书）形式发布的请求查看多份回复和报价 | 在分析 RFP 回复期间提高生产力，从而更快地做出采购决策 | Amazon Q 企业版 |
| 5 | 主数据管理员 | 使用生成式人工智能生成多语言和包含图片的产品描述 | 提高 SAP 中主数据的生产力和准确性，从而避免全球运营中的低效情况 | Amazon Q 企业版或 Amazon Bedrock |
| 6 | 高管（包括副总裁、高级副总裁等） | 借助来自 SAP 报告的实时洞察为最高管理层生成电子邮件 | 加快高管和董事会层面的决策进程 | Amazon Bedrock |
| 7 | 财务审计经理 | 根据公司政策，收集 SAP 中各种财务交易的实时审计洞察和异常情况 | 更快地处理审计合规性，避免因异常情况导致不必要的上报 | Amazon Bedrock |
| 8 | 应付账款经理 | 核对发票，从采购到付款流程的实时洞察中检测异常情况 | 更快地处理付款，改善供应商关系并快速处理异常 | Amazon Bedrock |
| 9 | 法务或政策经理 | 汇总保单文件来了解承保范围 | 确保完整性并加快索赔流程，从长远角度改善客户和供应商关系 | Amazon Q 企业版或 Amazon Bedrock |
| 10 | 员工 | 了解公司在采购流程方面的政策 | 确保合规性并加快服务和设备的采购 | Amazon Q 企业版 |
| 11 | 员工 | 了解公司在员工福利、承保范围和索赔流程方面的政策 | 提高生产力和员工对福利的满意度 | Amazon Q 企业版 |
| 技术使用案例 | ||||
| 12 | SAP ABAP 开发人员 | 通过在 Eclipse IDE 中生成 ABAP 程序来加快 SAP 项目进度 | 将开发人员的工作效率提高达 70% | Amazon Bedrock |
| 13 | SAP ABAP 开发人员 | 提供多语言打印表单供全局部署 | 只需构建一次打印表单，然后进行全局部署即可处理固定文本和 SAP 长文本，借助 LLM 实现更好的上下文翻译 | Amazon Bedrock |
| 14 | SAP ABAP 开发人员 | 在没有适当文档的情况下从程序中创建技术规范和测试脚本 | 协助 SAP 顾问和开发人员提高其规范和测试脚本的准确性 | Amazon Q 企业版 |
| 15 | SAP 系统管理员 | 更快地完成系统管理的开发任务 | 加速提高生产力并减少维护 SAP 系统时出现的错误 | Amazon Q 开发者版 |
AWS 生成式人工智能产品
AWS 为 SAP 客户提供全面的生成式人工智能服务，包括预先打包的生成式人工智能应用程序、构建自己的生成式人工智能应用程序以及开发自己的大型语言模型（LLM）。
| 生成式人工智能堆栈 | AWS 服务 | 其它服务 | SAP 上下文 |
|---|---|---|---|
| 开发自己的大型语言模型 | AWS Trainium 是 AWS 专门构建的第二代机器学习加速器，旨在对超过 1000 亿个参数的模型进行深度学习训练。而 AWS Inferentia 加速器是由 AWS 设计，旨在在 Amazon EC2 中以极低的成本为您的深度学习和生成式人工智能推理应用程序提供高性能。 | GPU、Sagemaker、超级集群、EFA、EC2 容量块、Neuron | 在这种非常先进的场景中，SAP 客户在内部人工智能/机器学习能力上进行了大量投资，他们希望构建自己的 LLM，因为预训练的 LLM 不适合他们的业务领域。 |
| 构建自己的生成式人工智能应用程序 | Amazon Bedrock 提供了所需的环境，使您可以使用 FM 构建和扩展生成式人工智能应用程序。这是一项完全托管的服务，可带来领先的人工智能公司提供的高性能 FM 供您选择。此外，此服务还围绕安全、隐私和负责任的人工智能带来了广泛的功能，同时还支持微调、检索增强生成（RAG）并构建执行任务的座席。 | 防护机制、座席、微调、检索增强生成 | 在这种情况下，SAP 客户希望利用 Bedrock 中提供的预训练 LLM，例如 Anthropic Claude、Amazon Titan、Stability AI 等。提供的 LLM 通过使用提示工程、检索增强生成和/或微调等常用技术，足以满足其使用案例。 |
| 预先打包的生成式人工智能应用程序 | Amazon Q 是一款生成式人工智能助手，专为辅助工作而设计，可通过将其连接到公司数据、信息和系统来根据您的业务进行量身定制。 Amazon Q in QuickSight 是一款生成式商业智能助手，使用户能够使用自然语言提示，轻松地通过其业务数据构建和使用洞察。这将加快构建控制面板和故事，从而加快业务流程中的决策。 Amazon Q in AWS Supply Chain 是生成式人工智能助手，可为优化供应链流程提供分析和决策方面的帮助。 Amazon Q 的 Connect 为座席提供了建议的回复和操作来解决客户的问题，从而快速解决问题并提高客户满意度。座席可以在实时对话中获取来自不同存储库的知识文章、Wiki 和常见问题。 |
Amazon Q 开发者版 | 大多数 SAP 客户可能都属于这一类别，他们依靠预先打包的生成式人工智能来启动他们的创新之旅。 通过执行多项配置任务，他们可以利用现有的 Amazon Q 构建自己的生成式人工智能助手来提高员工的工作效率，或者构建自己的生成式商业智能功能，为业务用户启用自助服务报告功能，从而加快公司内部的决策制定。 Amazon Q 开发者版有助于加快软件开发生命周期 |
Amazon Q 与 Amazon Bedrock for SAP 使用案例
让我们深入探讨一下 Amazon Q 和 Bedrock 产品，它们将覆盖 SAP 大多数生成式人工智能使用案例，通过预先打包的产品和全套生成式人工智能功能，加快您的生成式人工智能之旅。
Amazon Q 企业版是一款完全托管的生成式人工智能助手，您可以根据企业数据进行配置，用于回答问题、提供摘要、生成内容并完成任务。它嵌入在 AWS 云服务的各种产品中。我们将在此讨论其中两个：
- Amazon Q 企业版是您创建自己的数字版生成式人工智能助手的绝佳选择，您只需指明公司门户、SharePoint、Amazon S3 存储桶等企业数据来源即可。由于它能够利用这些知识库来回答任何疑问，因此，您的企业可以非常轻松地从中获益。
- Amazon Q in QuickSight 可让您的用户拥有自助服务报告平台，从而快速启动您的生成式商业智能之旅。用户可以使用自然语言查询来构建自己的可视化控制面板和故事，而无需了解底层 SQL 语句、联接机制和其它技术术语。
- 对于 AWS Supply Chain 和 Amazon Connect 来说，它们是专为特定业务场景构建的完全托管式服务。当您订阅这些服务时，均会默认嵌入 Amazon Q，从而提高用户执行关键业务流程的效率。
另一方面，Amazon Bedrock 将为您的开发人员提供完全托管的机器学习服务，用于构建、部署和扩展自定义人工智能模型和应用程序。它具备评估、选择和微调各种大型语言模型的能力。它为模型开发和训练、模型托管和部署、监控和可观测性、安全性与合规性、可扩展性和成本效益，以及与更广泛的 AWS 生态系统的集成提供了一个托管环境。Bedrock 通过处理底层基础设施和操作，来简化创建人工智能驱动型应用程序的过程，使开发人员能够专注于模型开发和应用程序逻辑。
Amazon Q 和 Bedrock 支持什么安全标准？
- Amazon Q 企业版支持对您的数据进行访问控制，这样用户就可以根据自己的权限访问相应的内容。您可以将自己的 Amazon Q 企业版 Web 体验与支持 SAML 2.0 的外部身份提供者（例如 Okta、Azure AD 和 Ping Identity）集成，来管理用户身份验证和授权。
- Amazon Bedrock 不会使用您的提示和连续文本来训练任何 AWS 模型或将其分发给第三方。每个模型提供商都有一个托管账户，他们可以将模型上传到该账户。Amazon Bedrock 推理账户有权调用这些模型，但托管账户本身对 Amazon Bedrock 账户不具备出站访问权限。此外，模型提供商无权访问 Amazon Bedrock 日志，也无权访问客户的提示和连续文本。
- Amazon Bedrock 不会使用您的训练数据来训练基础模型或将其分发给第三方。其它使用数据（如使用时间戳、记录的账户 ID 和服务记录的其它信息）也不用于训练模型。
如何将 Amazon Q 和 Bedrock 集成到 SAP？
考虑到先前的注意事项，我们将讨论几项架构指南，说明如何利用 Amazon Q 和 Bedrock 在 SAP 环境中启用生成式人工智能功能。请注意，这些并不是 SAP 生成式人工智能使用案例的详尽列表。架构指南可能会根据您的环境和要求而有所不同。
首先，对于 SAP 应用场景，请考虑 SAP BTP 中的生成式人工智能中心
在博文借助 AWS 和 SAP 提供的安全且可扩展的生成式人工智能服务，推动业务发展中介绍了，SAP AI Core 服务向客户提供大型语言模型等人工智能资产，并为在 SAP BTP 生态系统上运行的 SAP 应用程序提供统一接口。在此联合参考架构（JRA，Joint Reference Architecture）中，我们使用 SAP AI Core 中的生成式人工智能中心作为访问层和生命周期管理层，用于管理对 Amazon Bedrock 的访问，并提供一个端点，供我们的应用程序使用基础模型。通过生成式人工智能中心，SAP 可以集中实施各种内容筛选、特定于 SAP 的风险缓解措施和安全防护措施，提供了一种合规的方法，在整个 SAP 生态系统中大规模防范潜在的业务和法律风险。
图 0.通过 SAP AI Core 使用 Amazon Bedrock
SAP 洞察的架构指南（示例：使用案例 1）
下图描述了销售经理无需创建和运行自定义报告即可直接从 SAP Fiori Launchpad 查询库存状态的能力。对于典型的自定义开发工作，这有可能在 ABAP 开发和测试工作方面节省大约 14 人-天的工作量。
使用案例流程：
- 用英语查询：“Product highest inventory value at Chennai Warehouse”
- “The product with highest inventory value at Chennai Warehouse is Infrared Camera with total value of $1700”
图 1.SAP 洞察
我们利用 SAP Datasphere 和 SAP HANA Cloud 及其与 SAP S/4HANA 集成的能力。在该场景中，我们在 SAP Build Apps 中捕获用户的自然语言查询，这可以触发 API Gateway 提供的 REST API。REST API 本身将触发 Lambda 函数来触发检索增强生成（RAG），RAG 由 Amazon Bedrock 提供服务，并使用来自 SAP HANA Cloud 的数据进行增强。此架构可以使用 AI Core 上的 SAP 生成式人工智能中心来进一步增强，从而尽量缩短延迟和提升性能。
图 2.SAP Insight 架构图
业务用户自助服务报告架构指南（示例：使用案例 2）
下图描述了 Q in QuickSight 如何通过可视化和故事协助业务用户创建自己的自助服务报告。这样就无需专家级开发人员或分析团队的参与，因而有可能将他们生成各种报告的时间从几天缩短到几个小时。
使用案例流程：
- 使用自然英语撰写提示，围绕目标创建故事
- 选择要包含的控制面板可视化内容来完成故事
- 单击“构建”
- 标题由 Q 自动撰写
- 章节由 Q 撰写，创建故事流程
- 最终撰写结论，提出建议
图 3.使用 Q in QuickSight 创建自助服务报告
我们利用 SAP Datasphere 和 SAP HANA Cloud 及其与 SAP S/4HANA 集成的能力。可以将 Athena 配置为通过其数据联合身份验证功能从 SAP HANA Cloud 中读取数据。业务用户可以在 Q in QuickSight 中使用自然语言提示创建可视化控制面板和故事，而 Q in QuickSight 会通过 Athena 获取数据。SAP 的数据来源向导将创建相关的 Lambda 函数来支持此活动。
图 4.自助服务报告架构指南
适用于 SAP 的生成式人工智能助手的架构指南（示例：使用案例 2、3）
下图描述了 Q 如何协助维护工程师通过 SAP Work Order 应用程序与他们的工作指示聊天。它使工程师无需打印数百页并浏览每一页来查找某些信息。因此，提高了工厂维护工作的效率、准确性和质量。
使用案例流程：
- 在维护工单中，我们附上了描述如何修理阀门的工作说明 PDF
- PDF 上传到 SAP 后，便会被抓取供 Amazon Q 企业版使用。用户可以查询诸如“How to repair the control valve if it has leakages?”之类的文档
图 5.适用于 SAP 的生成式人工智能助手
SAP ERP 或 S/4HANA 同时包含交易（结构化数据）和文档（非结构化数据）。
可以使用 Amazon AppFlow 将交易数据提取到 Amazon S3 存储桶中。这些数据可以加载到 Redshift 中，或者您也可以直接通过 Athena 来读取。Amazon Q in QuickSight 将使用 Redshift 或 Athena 作为数据来源，使用自然语言提示为自助服务报告启用生成式商业智能功能，使没有 SQL 或编程知识的业务用户也能够构建自己的控制面板和故事。参见第 1、4、6 点。
附加到 SAP 交易的文档可以使用适用于 SAP ABAP 的 AWS SDK 或 SAP Content Server 提取到 S3 存储桶中，例如：发票、合同、报价单等。然后，可以使用 Amazon Q 企业版抓取这些非结构化数据并将其编入索引，同时受 AWS IAM Identity Center 的保护，供终端用户访问。
图 6.适用于 SAP 的生成式人工智能助手架构图
如上图所示的步骤描述：
- 您可以通过适用于 SAP ABAP 的 AWS SDK 将 SAP 报告、附件、存档数据提取到 Amazon S3 存储桶
- Amazon Q 将抓取从 Amazon S3 存储桶中提取的数据（即采购订单、发票、物料主数据、设备主数据、维护工单、工作说明等）
- Amazon Q 将从其它数据来源中抓取，其中包含项目信息、工作日志、工作现场照片、现场安全观察、每日调查，这些数据可以存储在 SharePoint、Jira、Zendesk 等。
- 从 S3 到 Athena 的结构化数据和报告可以加载到 Redshift，然后供 Amazon Q in QuickSight 用来创建故事板/报告，并存储在 S3 中
- 可以集成 AWS IAM Identity Center，以便对 Active Directory、Okta 和其他身份提供者的用户进行身份验证
- 用户将通过 Web 浏览器访问 Amazon Q 和 QuickSight，这些服务可以嵌入到 Fiori 等 SAP 前端。
适用于 SAP 的生成式人工智能助手的架构指南（示例：使用案例 12）
下图描述了我们如何借助集成到 Eclipse 开发工具的 Bedrock 来生成 ABAP 代码和文档。据估计，该应用程序通过加快撰写 ABAP 代码并协助创建 ABAP 文档，将开发人员的工作效率提高 70%，从而加快 Clean Core 在 SAP 中的实施。
使用 SAP ABAP Assistant 插件，SAP 开发人员可以通过 Eclipse IDE 生成 ABAP 代码和 ABAP 文档。ABAP Assistant Eclipse 插件安装在 Eclipse IDE 中，并在开发者的个人计算机本地运行。
使用案例流程：
- 根据业务需求撰写创建 ABAP 程序的提示，然后调用 Amazon Bedrock
- ABAP 程序将根据提示自动生成
图 7.适用于 SAP 的 ABAP 助手
图 8.适用于 SAP 的 ABAP 助手架构图
如上图所示的步骤描述：
- ABAP 开发人员使用命令行界面（AWS CLI）进行 AWS IAM Identity Center 身份验证，以获取插件要使用的凭证。
- ABAP 开发人员在 Eclipse 中将 SAP 系统添加为 ABAP 项目。
- 当 ABAP 开发人员调用 ABAP Assistant 插件时，它会调用 AWS Security Token Service（AWS STS）来担任配置的 AWS Identity and Access Management（AWS IAM）角色，并生成调用 Amazon Bedrock 所需的短期凭证。
- ABAP Assistant 插件调用 Amazon Bedrock 服务来生成 ABAP 代码和文档，并将结果返回给 Eclipse。
总结
我们已经讨论了各种 SAP 生成式人工智能使用案例及其潜在的商业价值。我们还讨论了一些可协助您在 SAP 环境中快速启动并加速创新的 AWS 服务产品。
现在，您可以为 SAP 工作负载充分发挥生成式人工智能的潜能。Amazon Q 和 Bedrock 让人工智能的入门变得前所未有的容易。前往 Amazon Q 文档、博客，学习如何设置自己的由 Q 赋能的生成式人工智能助手。您将找到用于快速部署 Q 模型的分步指南、示例配置和最佳实践，来协助您完成从总结 SAP 所附文档到生成建议来加快决策的一切事项。
使用 Amazon Q in QuickSight 作为生成式商业智能助手，为您的业务用户提供自助服务报告，从而通过轻松创建可视化控制面板和故事，让业务用户的决策速度实现大幅提升。
请务必查看 Amazon Bedrock 文档和博客。Bedrock 为构建大型语言模型并进行大规模部署提供了全面的基础。使用 Bedrock，您可以微调预训练模型，安全地托管模型，并将这些模型集成到您的 SAP 应用程序中。
您可以尝试 AWS Generative AI for SAP Workshop Studio，动手体验 Bedrock、Q 和 QuickSight 的功能。目前该讲习会正在重新进行评估，以纳入 SAP AI Core 中的生成式人工智能中心的内容。另外别忘了探索 PartyRock，以便在由 Bedrock 提供支持的平台中构建人工智能生成的应用程序。
最后，着手探索 SAP AI Core 中的生成式人工智能中心，它整合了 Amazon Bedrock 中的生成式人工智能模型，让 SAP 客户能够访问高性能的大型语言模型和基础模型来构建定制的人工智能应用程序。
在 AWS for SAP 博客上阅读更多内容，获取灵感，了解如何从 SAP 投资中获得更多收益。立即开始使用 Amazon Q 和 Bedrock，为您的企业解锁生成式人工智能的强大力量！
加入 SAP on AWS 讨论
除了您的客户团队和 AWS Support 渠道外，我们最近还推出了 re:Post，这是为 AWS 社区重新设计的问答体验。我们的 AWS for SAP 解决方案架构团队会定期查看 AWS for SAP 主题的讨论情况，确保问题得到解答，从而为我们的客户和合作伙伴提供协助。如果您的问题与支持无关，可以考虑加入 re:Post 的讨论，并将问题添加到社区知识库中。
创作人员
我要感谢以下团队成员为本博客做出的贡献：Gyan Mishra、Adren D Souza、Derek Ewell、Beth Sharp 和 Spencer Martenson。