结合 Amazon Lex 的 GenAI 能力搭建基于 Amazon Connect 的智能语音客服

摘要

本文介绍了 Amazon Lex 的新生成式 AI 功能以及和 Amazon Connect 结合提供智能语音客服功能具体的配置过程。通过应用大型语言模型（LLM），Amazon Lex 能够理解更复杂的问题，并提供更自然、更人性化的回答。Lex 提供的新生成式 AI 功能包括：描述性机器人构建，辅助槽位解析，训练话语生成以及 AMAZON.QnAIntent 自动构建。

其中“描述性机器人构建”功能提供自然语言描述，让 Lex 使用大型语言模型为您生成对话机器人的主要配置内容。“辅助槽位解析”功能利用大型语言模型的智能，当自然语言理解失败时解析用户话语中的槽位值。“样本话语生成”功能让 Lex 使用生成式 AI 为您的机器人生成训练话语。“AMAZON.QnAIntent 自动构建”功能是一个由 Bedrock 支持的内置意图，使用生成式 AI 通过查询授权的知识内容来满足 FAQ 请求。

这些功能简化了构建聊天机器人流程，使开发人员能够更专注于优化用户体验，从而提升客户服务质量和效率。

客户场景

某客户在试用过 Amazon Connect 的语音通话和服务功能之后，提出在客服过程中，希望还能够借助大语言模型和客户已有的产品资料，针对终端用户的一些常见问题，先通过 AI 进行问题的检索和应答组织，直接回复终端用户，从而减少人工服务的压力并且提升常见问题的响应速度。

针对客户需求，Amazon Lex 刚好最近发布了四个新的生成式 AI 相关的功能，我们尝试结合这些功能快速搭建了具备知识库检索和自动应答能力的对话机器人并集成到了 Amazon Connect 的工作流中。

方案效果

我们希望最终达成的方案效果是可以实现终端用户针对某个 Amazon Connect 的服务号码发起呼叫之后，根据系统提示音进行语音的询问。为了演示效果，我们会在 Lex 中部署两个差异比较大的客户意图场景，一个是酒店预定的意图，一个是对 AWS 服务咨询的意图。当客户提出：“我要订酒店”这样的问题，Amazon Lex 可以自动使用酒店预定相关的意图（Intent）来应对。同样，如果客户提出：“请介绍下 AWS 的 WAF 服务的优劣势”，同样 Amazon Lex 可以使用 AWS 服务咨询的意图（Intent）来应对。只不过两个意图配置的区别是：酒店预定这个意图，我们会使用 Lex 的 GenAI 功能：“描述性机器人构建”、“辅助槽位解析”和“训练话语生成”等进行搭建。AWS 服务查询这个意图，我们会结合 Bedrock 的知识库以及 Lex 的 GenAI 功能：“AMAZON.QnAItent 自动构建” 进行搭建。

方案搭建

Bedrock 知识库搭建

1. 在 Bedrock 服务中找到知识库选项，开始创建。
   
2. 通过指定 S3 的文档存储位置来组成数据源，我们演示用的数据是一些亚马逊云科技安全服务相关的白皮书和架构最佳实践。
   
3. 选择 embedding 模型和向量数据库。这里可以看到 Bedrock 给出了非常多的选择，embedding 模型可以选择 Titan 或者 Cohere 的产品，向量数据库可以选择使用 OpenSearch Serverless 支持的向量数据库或者用其他第三方的服务。
   
4. 检查选择并开始创建。
   
5. 知识库创建完毕之后，可以直接在控制台进行对话测试。这里的 Knowledge base ID 是这个知识库的唯一标识，后面在 Lex 的配置中会使用到。
   

Lex 里的酒店预定意图 搭建

1. 在 Lex 界面点击创建 bot，选择第一个选项，启用 GenAI 功能辅助。
   
2. 选择支持的语言的同时（目前只支持英文），选择使用 Claude 大模型根据 bot 的描述进行后续的话语（Utterances）和槽位（slots）的自动生成。
   
3. 大模型会根据 bot 的描述自动生成样例 utterances（话语）和 slots（槽位），你可以根据需要进行审核和修改。
   
4. 关于槽位的取值，这里也有一个很贴心的小细节的 GenAI 的增强，也就是你可以在槽位选项的高级选项里，打开 GenAI 的辅助。比如下面的例子，对于‘人数’的统计，如果是过去，你必须回答精确的数字机器人才能够处理，现在你就可以用自然语言回答‘3 people’，机器人也可以智能地提取其中的 3 作为‘人数’槽位的数字取值。
   
5. 下一步就可以确认和进行第一次构建了。
   
6. 构建完毕之后，可以直接在控制台进行测试。
   

这样我们就完成了对于酒店预定意图的配置，在 GenAI 能力的加持下，让这个过程变得非常简便。

Lex 里的 AWS 服务咨询意图 搭建

1. 创建一个新的 intent（意图），使用 built-in 的 intent
   
2. 选择第一个 GenAI feature –  AMAZON.QnAIntent
   
3. 选择大模型和对应的 Bedrock 知识库（仅需提供知识库 ID）
   
4. 使用 built-in 的 intent，无需再手动配置话语和槽位等内容，可以直接开始构建。
   
5. 构建完成之后进行测试：
   

集成 Lex 到 Connect 的工作流

1. Lex 集成到 Connect 的工作流，第一步需要在 Connect 的控制台把需要的 Lex Bot 加入到 Connect 的流（flows）管理配置上。
   
2. 然后就可以通过相应 region 的 Connect 实例的 access url 使用管理员身份的用户登陆。
   
3. 登陆之后，在界面里找到 flows，创建一个新的 flow，在这个 flow 中选择 Get customer input 块（Block），进行 Lex 相关的配置： 1. 给用户设置一个欢迎语音，通过 Polly 进行播报；2. 选择我们前面配置好的 Lex bot 并增加两个和 Lex intents 对应的 intent。
   
4. 在 Lex 应答结束之后，可以转到下一个模块，下面是演示用的完整 flow。
   
5. 最后要注意保存和发布这个 flow，然后就可以把这个 flow 绑定到一个 Connect 的号码上进行呼入测试。为了测试需要申请两个号码，一个用来接听感受效果，一个用来发起外呼。我们上面设计好的 flow 需要绑定在发起外呼的号码上。这样我们模拟 agent 接起电话之后，Connect 就会触发绑定在外呼号码上的工作流。
   

测试完整流程

1. 使用 Connect 的服务 API 启动一个外呼，源号码是 xxx-0697， 目标号码是 xxx-1914。
2. 拨打号码之前，需要作为 Connect 对应实例的一个用户按照 agent 的身份登陆，并设置自己为 available 状态。
3. 作为 agent 接听电话后会听到我们在工作流中设置的提示语音，然后就可以用英文开始和 Lex bot 互动了。

总结

Amazon Bedrock 利用基础大模型构建和扩展生成式 AI 应用程序。它提供来自领先供应商的各种大模型，我们的客户可以灵活选择适合其特定用例的最佳模型。

在当今快节奏的世界中，我们期望每个企业都能提供快速高效的客户服务。然而，当询问量超过处理资源时，提供优质客户服务变得非常困难。通过利用由大型语言模型（LLMs）驱动的生成式 AI 进展，企业可以高效地克服这一挑战，同时提供个性化服务。

多年来，AWS 一直致力于普及 AI、机器学习（ML）和生成式 AI 的应用。大模型在呼叫中心服务中非常有用，能够自动回答常见问题、分析客户情感和意图以适当分配呼叫、生成对话摘要，帮助代理，甚至自动生成电子邮件或聊天回复。通过处理重复性任务并从对话中获取见解，生成式AI使呼叫中心的人工代理（agent）能够专注于通过个性化服务解决复杂问题。

通过 Amazon Lex 和 Amazon Connect，我们致力于将生成式 AI 融入呼叫中心服务的日常和用户体验的各个方面。本文中提到的功能仅仅是个开始。

*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用，亚马逊云科技中国仅为帮助您了解行业前沿技术和发展海外业务选择推介该服务。

参考内容：

1. https://aws.amazon.com/cn/blogs/machine-learning/elevate-your-self-service-assistants-with-new-generative-ai-features-in-amazon-lex/
2. https://aws.amazon.com/blogs/contact-center/easily-set-up-interactive-messages-for-your-amazon-connect-chatbot/

本篇作者